NuminaMath — это серия языковых моделей, которые обучены решать математические задачи с использованием интегрированного мышления (TIR). NuminaMath 7B TIR выиграла первый приз на математической олимпиаде AI (AIMO) с результатом 29/50 на общедоступных и частных наборах тестов. Эта модель представляет собой доработанную версию deepseek-ai/deepseek-math-7b-base с двумя этапами контролируемой тонкой настройки: Этап 1: точная настройка базовой модели на большом и разнообразном наборе данных математических задач и решений на естественном языке, где каждое решение шаблонируется с помощью цепочки мыслей (CoT) для облегчения рассуждений. Этап 2: точная настройка модели, полученной на этапе 1, на синтетическом наборе данных интегрированных с инструментами рассуждений, где каждая математическая задача разлагается на последовательность обоснований, программ Python и их результатов. Здесь мы следовали документу Microsoft ToRA и побудили GPT-4 создавать решения в формате ToRA с обратной связью по выполнению кода. Точная настройка этих данных создает агент рассуждения, который может решать математические задачи посредством сочетания рассуждений на естественном языке и использования Python REPL для вычисления промежуточных результатов. — Тип модели: математический LLM параметров 7B, точная настройка которого осуществляется в два этапа контролируемой точной настройки, сначала на наборе данных…
Модальности:
Генерация текста
Области применения:
Диалог / чат Математика
Задача: Генерация текста
Автор: AI-MO
Теги: llama, alignment-handbook, generated_from_trainer, conversational, text-generation-inference, endpoints_compatible
Лайков: 351 | Загрузок: 650
Описание основано на материалах HuggingFace. Перевод выполнен автоматически.
