> Это модель автоматического мышления и переключения, созданная с использованием методов слияния моделей и замены экспертов: она напрямую отвечает на простые вопросы, дает краткие мысли на умеренные и глубоко углубляется в сложные. Проведите первоначальное смешивание модели инструкций и модели рассуждения. Вдохновленные этой статьей, мы используем следующее регулярное выражение: ^model.layers.d+.mlp.experts.d+.(downproj|gateproj|upproj).weight$ для замены экспертов — все эксперты в Qwen3-30B-A3B-YOYO-AutoThink-preview, соответствующие регулярному выражению, заменяются экспертами из Qwen3-30B-A3B-Мышление-2507.*
Модальности:
Генерация текста
Области применения:
Диалог / чат
Задача: Генерация текста
Автор: YOYO-AI
Теги: qwen3_moe, merge, conversational, en, zh
Лайков: 7 | Загрузок: 4
Описание основано на материалах HuggingFace. Перевод выполнен автоматически.
