Эта модель расширяет возможности рассуждения небольшого параметра DeepSeek-R1-Distill-Qwen-1.5B LLM размером 1,5B с использованием обучения с подкреплением (RL). Эффективно обученный на 4 графических процессорах A40 менее чем за 24 часа, он достигает значительных успехов в тестах математических рассуждений (например, точность 80 % на AMC23, 46,7 % на AIME24, что превосходит o1-preview). Этот экономически эффективный подход демонстрирует потенциал RL для стимулирования рассуждений в условиях ограниченных ресурсов. — Открытый RS1: в среднем 53,0%. Оценка — Open-RS2: в среднем 55,7%. оценка, 80,0% на AMC23 — Open-RS3: в среднем 56,3%. балл, 46,7% по AIME24 (превосходит o1-preview с показателем 44,6%) — Конкурентные баллы MATH-500; Минерва отстает от моделей 7В. Наш подход использует 7000 образцов (всего 42 000 выходных данных) и стоит около 42 долларов США на 4 графических процессорах A40 в течение 24 часов по сравнению с тысячами долларов для базовых моделей. Более подробную информацию, включая инструкции по использованию и результаты дальнейшей оценки, можно найти в нашем репозитории GitHub.
Модальности:
Генерация текста
Области применения:
Диалог / чат
Задача: Генерация текста
Автор: knoveleng
Теги: qwen2, conversational, text-generation-inference, endpoints_compatible
Лайков: 21 | Загрузок: 83
Описание основано на материалах HuggingFace. Перевод выполнен автоматически.
