Instella-Math✨: полностью открытая языковая модель с возможностями рассуждения AMD рада представить Instella-Math, языковую модель, ориентированную на рассуждения, которая знаменует собой важную веху для AMD: насколько нам известно, это первая языковая модель, обученная с помощью длинной цепочки мышления и обучения с подкреплением, полностью на графических процессорах AMD. Начиная с Instella-3B-Instruct, мы расширили возможности модели за счет многоэтапного конвейера обучения, включающего два этапа контролируемой точной настройки и три этапа обучения с подкреплением с использованием инфраструктуры VERL, полностью выполняемого на графических процессорах AMD Instinct™ MI300X. — Представляем Instella-Math — первую языковую модель, ориентированную на рассуждения, с 3 миллиардами параметров от AMD, полностью обученную на 32 графических процессорах AMD Instinct MI300X. — Instella-3B-Math, созданная на основе программного стека AMD ROCm, использует эффективные методы распределенного обучения, включая обучение с подкреплением на 4 узлах MI300X (по 8 графических процессоров каждый), демонстрируя масштабируемость и производительность оборудования AMD для передовых рабочих нагрузок искусственного интеллекта. — Instella-Math — это модель открытого языка, архитектура, обучающий код, веса и наборы данных которого общедоступны, что позволяет любому проверять, использовать, изменять или опираться на…
Модальности:
Генерация текста
Области применения:
Диалог / чат Математика
Задача: Генерация текста
Автор: amd
Теги: instella, conversational, custom_code, en
Лайков: 7 | Загрузок: 39
Описание основано на материалах HuggingFace. Перевод выполнен автоматически.
