Unsloth Dynamic 2.0 обеспечивает превосходную точность и превосходит другие ведущие методы количественного анализа. Мы рады представить AceReason-Nemotron-14B, модель математического и кодового рассуждения, полностью обученную с помощью обучения с подкреплением (RL), начиная с DeepSeek-R1-Distilled-Qwen-14B. Он показывает впечатляющие результаты: 78,6% на AIME 2024 (+8,9%), 67,4% на AIME 2025 (+17,4%), 61,1% на LiveCodeBench v5 (+8%), 54,9% на LiveCodeBench v6 (+7%) и 2024 на Codeforces (+543). Мы систематически изучаем процесс обучения RL посредством обширной абляции и предлагаем простой, но эффективный подход: сначала обучение RL по математическим подсказкам, затем обучение RL по подсказкам только по коду. Примечательно, что мы обнаружили, что RL, основанный только на математических вычислениях, не только значительно повышает производительность надежных моделей в математических тестах, но и в задачах рассуждения кода. Кроме того, расширенное RL только для кода еще больше повышает производительность тестов кода, вызывая при этом минимальное ухудшение математических результатов. Мы обнаружили, что RL не только выявляет фундаментальные способности к рассуждению, приобретенные в ходе предварительного обучения и контролируемой тонкой настройки (например, дистилляции), но также расширяет границы способности модели к рассуждению, позволяя ей решать проблемы…
Модальности:
Генерация текста
Области применения:
Диалог / чат
Задача: Генерация текста
Автор: unsloth
Теги: gguf, qwen2, nvidia, unsloth — reasoning — math — code — reinforcement learning — pytorch, en, endpoints_compatible, conversational
Лайков: 9 | Загрузок: 1,921
Описание основано на материалах HuggingFace. Перевод выполнен автоматически.
