Мы выпускаем DASD-4B-Thinking, компактную, но функциональную модель языка с плотностью 4B, специализирующуюся на рассуждениях с длинной цепочкой мыслей (Long-CoT) в области математики, генерации кода и научных рассуждений. DASD-4B-Thinking подвергается постобучению на Qwen3-4B-Instruct-2507 (недумающий ученик) и дистиллируется из gpt-oss-120b (учитель) с помощью конвейера дистилляции последовательностей с выравниванием распределения, что обеспечивает высокую производительность рассуждений в течение длительного периода времени с существенно меньшим количеством обучающих выборок (448 КБ), чем у многих существующих более крупных моделей. В то время как сообщество спешит построить четкую модель рассуждения, используя огромные наборы данных (часто миллионы образцов), DASD-4B-мышление доказывает, что выравнивание распределения имеет большее значение, чем количество данных. Он устанавливает новую основу для эффективной обработки данных, обеспечивая рассуждения флагманского уровня в модели 4B, которая может работать на потребительском оборудовании. Модель с открытым исходным кодом**: она обеспечивает самую современную производительность среди моделей с открытым исходным кодом сопоставимого масштаба и значительно превосходит по производительности более крупные модели. Чрезвычайная эффективность данных. Эти результаты достигаются с использованием всего 448 тыс. обучающих выборок**, что на порядок меньше, чем при сопоставимых усилиях. Новый трубопровод: он представляет собой систематический…
Модальности:
Генерация текста
Области применения:
Диалог / чат
Задача: Генерация текста
Автор: Alibaba-Apsara
Теги: qwen3, conversational, text-generation-inference, endpoints_compatible
Лайков: 217 | Загрузок: 1,064
Описание основано на материалах HuggingFace. Перевод выполнен автоматически.
