Мы представляем AceMath, семейство пограничных моделей, предназначенных для математических рассуждений. Модели семейства AceMath, включая AceMath-1.5B/7B/72B-Instruct и AceMath-7B/72B-RM, улучшены с использованием Qwen. Модели AceMath-1.5B/7B/72B-Instruct превосходно подходят для решения математических задач на английском языке с использованием цепочки мыслей (CoT), а модели AceMath-7B/72B-RM, как модели вознаграждения за результат, специализируются на оценке и подсчете баллов математических решений. Модели AceMath-7B/72B-RM разработаны на основе наших моделей AceMath-7B/72B-Instruct и обучены на данных AceMath-RM-Training-Data с использованием потерь Брэдли-Терри. В архитектуре используется стандартная классификация последовательностей с линейным слоем поверх языковой модели с использованием конечного токена для вывода скалярной оценки.pull — AceMath-1.5B-Instruct, AceMath-7B-Instruct, AceMath-72B-Instruct — AceMath-RewardBench, AceMath-Instruct Training Data, AceMath-RM Training Data. Мы сравниваем AceMath с ведущими частными математическими моделями и математическими моделями с открытым доступом, приведенными выше. Таблица. Наш AceMath-7B-Instruct во многом превосходит предыдущий лучший в своем классе Qwen2.5-Math-7B-Instruct (средний балл при 1: 67,2 против 62,9) по различным тестам математических рассуждений, при этом приближаясь к…
Модальности:
Генерация текста
Области применения:
Математика Диалог / чат
Задача: Генерация текста
Автор: nvidia
Теги: qwen2, nvidia, AceMath, math, conversational, en
Лайков: 7 | Загрузок: 353
Описание основано на материалах HuggingFace. Перевод выполнен автоматически.
