AFM-4.5B — это настроенная с помощью инструкций модель с 4,5 миллиардами параметров, разработанная Arcee.ai и предназначенная для обеспечения производительности корпоративного уровня в различных средах развертывания, от облака до периферии. Базовая модель была обучена на наборе данных из 8 триллионов токенов, включающем 6,5 триллионов токенов общих данных предварительного обучения, за которыми следуют 1,5 триллиона токенов данных промежуточного обучения с повышенным вниманием к математическим рассуждениям и генерации кода. После предварительного обучения модель прошла контролируемую тонкую настройку на высококачественных наборах данных инструкций. Модель, настроенная на инструкции, была дополнительно усовершенствована посредством обучения с подкреплением на проверяемых вознаграждениях, а также на человеческих предпочтениях. Мы используем модифицированную версию TorchTitan для предварительного обучения, Axolotl для контролируемой точной настройки и модифицированную версию Verifiers для обучения с подкреплением. При разработке AFM-4.5B качество данных было приоритетным требованием для достижения надежной работы модели. Мы сотрудничали с DatologyAI, компанией, специализирующейся на крупномасштабном хранении данных. Конвейер курирования DatologyAI объединяет набор запатентованных алгоритмов — фильтрацию качества на основе модели, курирование на основе внедрения, сопоставление целевого распределения, исходный…
Модальности:
Генерация текста
Области применения:
Диалог / чат
Задача: Генерация текста
Автор: arcee-ai
Теги: arcee, conversational, en, es, fr, de, it, pt
Лайков: 95 | Загрузок: 1,623
Описание основано на материалах HuggingFace. Перевод выполнен автоматически.
