QwQ-32B-Coder-Fusion-9010 — это смешанная модель, сочетающая в себе сильные стороны двух мощных моделей на базе Qwen: huihui-ai/QwQ-32B-Preview-abliterated и huihui-ai/Qwen2.5-Coder-32B-Instruct-abliterated. Веса смешиваются в соотношении 9:1, при этом 90% весов взято из удаленной модели QwQ-32B-Preview, а 10% — из удаленной модели Qwen2.5-Coder-32B-Instruct. Хотя это простая смесь, модель пригодна для использования, и никакой тарабарщины не появилось. Это эксперимент. Я тестирую соотношения 9:1, 8:2 и 7:3 отдельно, чтобы увидеть, какое влияние они оказывают на модель. Сейчас эффективные соотношения составляют 9:1, 8:2 и 7:3. Любые другие соотношения (6:4,5:5) приведут к смешанным или неясным выражениям. — Базовые модели: — huihui-ai/QwQ-32B-Preview-abliterated (90%) — huihui-ai/Qwen2.5-Coder-32B-Instruct-abliterated (10%) — Размер модели: 32B параметров — Архитектура: Qwen 2.5 — Соотношение смешивания: 9:1 (QwQ-32B-Preview-abliterated:Qwen2.5-Coder-32B-Instruct-abliterated) Другие пропорции можно получить, посетив huihui_ai/qwq-fusion.
Модальности:
Генерация текста
Области применения:
Диалог / чат Генерация кода
Задача: Генерация текста
Автор: huihui-ai
Теги: qwen2, chat, abliterated, uncensored, conversational, en, text-generation-inference, endpoints_compatible
Лайков: 12 | Загрузок: 17
Описание основано на материалах HuggingFace. Перевод выполнен автоматически.
