OLMo 2 32B Instruct March 2025 — это постобученный вариант модели OLMo-2 32B от марта 2025 года, который прошел контролируемую тонкую настройку на специальном для OLMo варианте набора данных Tülu 3, дальнейшее обучение DPO на этом наборе данных и окончательное обучение RLVR на этом наборе данных. Tülu 3 предназначен для решения самых современных задач, помимо чата, таких как MATH, GSM8K и IFEval. Для получения более подробной информации ознакомьтесь с бумагой OLMo 2 или Tülu 3! OLMo — это серия открытых языковых моделей, предназначенная для изучения языковых моделей. Эти модели обучаются на наборе данных Dolma. Мы публикуем весь код, контрольные точки, журналы и связанные с ними подробности обучения. — Тип модели: модель, обученная на общедоступных, синтетических и созданных человеком наборах данных. — Язык(и) (NLP): преимущественно английский — Лицензия: Apache 2.0 — Точная настройка на основе модели: allenai/OLMo-2-0325-32B-DPO — Страница проекта: https://allenai.org/olmo — Репозитории: — Базовый репозиторий (обучение, вывод, точная настройка и т. д.): https://github.com/allenai/OLMo-core — Оценочный код: https://github.com/allenai/olmes — Код дальнейшей тонкой настройки: https://github.com/allenai/open-instruct — Документ: https://arxiv.org/abs/2501.00656 —…
Модальности:
Генерация текста
Области применения:
Диалог / чат Следование инструкциям
Задача: Генерация текста
Автор: allenai
Теги: olmo2, conversational, en, endpoints_compatible
Лайков: 148 | Загрузок: 4,245
Описание основано на материалах HuggingFace. Перевод выполнен автоматически.
