Большое спасибо Бартовски за предоставление версий этой модели в формате GGUF. Эта модель представляет собой объединение популярной модели 32b от Rombos, основанной на Qwen 2.5, и трех тонких настроек творческого письма. Креативный контент представляет собой серьезное улучшение по сравнению с исходной базой, и мне он понравился в моей ролевой кампании DnD. Это объединение предварительно обученных языковых моделей, созданных с помощью mergekit. Эта модель была объединена с использованием метода слияния DELLA с использованием Rombos-LLM-V2.5-Qwen-32b в качестве основы. EVA-UNIT-01/EVA-Qwen2.5-32B-v0.2 allura-org/Qwen2.5-32b-RP-Ink * nbeerbower/Qwen2.5-Gutenberg-Doppel-32B Для создания этой модели использовалась следующая конфигурация YAML: yaml базовая модель: rombodawg/Rombos-LLM-V2.5-Qwen-32b параметры: int8mask: true масштабирование: false нормализовать: true dtype: bfloat16 tokenizersource: объединение mergemethod: Darties модели: — модель: EVA-UNIT-01/EVA-Qwen2.5-32B-v0.2 параметры: вес: [0,4] плотность: [0,55] — модель: nbeerbower/Qwen2.5-Gutenberg-Doppel-32B параметры: вес: [0,3] плотность: [0,55] — модель: allura-org/Qwen2.5-32b-RP-Параметры чернил: вес: [0,4] плотность: [0,55]
Модальности:
Генерация текста
Области применения:
Диалог / чат
Задача: Генерация текста
Автор: SubtleOne
Теги: qwen2, merge, mergekit, conversational, text-generation-inference, endpoints_compatible
Лайков: 7 | Загрузок: 8
Описание основано на материалах HuggingFace. Перевод выполнен автоматически.
