Вышла официальная версия TinyR1-32B. Пожалуйста, посетите TinyR1-32B. Мы официально открыли исходный код набора обучающих данных, а также полный конвейер обучения и оценки. Мы представляем нашу модель рассуждения первого поколения, Tiny-R1-32B-Preview, которая превосходит модель 70B Deepseek-R1-Distill-Llama-70B и почти соответствует полной модели R1 по математике. Мы применили контролируемую точную настройку (SFT) к Deepseek-R1-Distill-Qwen-32B в трех целевых областях — математике, программировании и науке — с использованием обучающей среды 360-LLaMA-Factory для создания трех моделей, специфичных для предметной области. В качестве затравки мы использовали вопросы из открытых источников. Тем временем ответы на задачи по математике, программированию и естественным наукам генерировались R1, создавая специализированные модели для каждой области. Основываясь на этом, мы использовали инструмент Mergekit от команды Arcee для объединения нескольких моделей, создав Tiny-R1-32B-Preview, который демонстрирует высокую общую производительность. Все оценки сообщаются как pass@1. Для AIME 2024 мы отбираем 16 ответов, а для GPQA-Diamond — 4 ответа, оба используют среднюю общую точность для стабильной оценки. Мы объединили модели, обучавшиеся отдельно по трем направлениям, в одну…
Модальности:
Генерация текста
Области применения:
Диалог / чат
Задача: Генерация текста
Автор: qihoo360
Теги: qwen2, conversational, text-generation-inference, endpoints_compatible
Лайков: 329 | Загрузок: 37
Описание основано на материалах HuggingFace. Перевод выполнен автоматически.
