Это четвертая модель в серии, призванной воспроизвести прозаическое качество моделей Claude 3, в частности Sonnet и Opus. Данная модель доработана на базе Мистраль-Немо-База-2407. Модель была настроена с учетом форматирования ChatML. Типичный входной файл будет выглядеть следующим образом: — Набор данных Stheno (отфильтрованный) — kalomaze/OpusInstruct25k — Nopm/OpusWritingStruct — Gryphe/Sonnet3.5-SlimOrcaDedupCleaned (подмножество ~16 тысяч строк) — kalomaze/OpusInstruct_3k Эта модель является результатом командной работы, и заслуга принадлежит всем членам Anthracite. Обучение проводилось в течение 2 эпох. Для полнопараметрической точной настройки модели мы использовали 8 графических процессоров NVIDIA H100 с тензорными ядрами.
Модальности:
Генерация текста
Области применения:
Диалог / чат
Задача: Генерация текста
Автор: anthracite-org
Теги: mistral, chat, conversational, en, fr, de, es, it
Лайков: 91 | Загрузок: 578
Описание основано на материалах HuggingFace. Перевод выполнен автоматически.
