Это девятая модель в серии, призванной воспроизвести прозаическое качество моделей Claude 3, в частности Sonnet и Opus. Модель была настроена с учетом форматирования ChatML. Типичный ввод будет выглядеть так: Ниже приведены шаблоны инструкций и контекста для использования в SillyTavern. В нашем тестировании min_p, равное 0,2, обеспечивает наилучшую производительность модели; не забудьте сбросить температуру, если вы раньше использовали наши модели на основе nemo. Мы хотели бы поблагодарить Recursal/Featherless за спонсирование вычислений для этого поезда. Featherless размещает наши модели Magnum с момента появления первых 72 B, предоставил тысячам людей доступ к нашим моделям и помог нам расти. Мы также хотели бы поблагодарить всех членов Anthracite, которые сделали эту настройку возможной. — anthracite-org/stheno-filtered-v1.1 — anthracite-org/kalo-opus-instruct-22k-no-refusal — lodrick-the-lafted/NopmWritingStruct — Epiculous/Synthstruct-Gens-v1.1-Filtered-n-Cleaned — Epiculous/SynthRP-Gens-v1.1-Filtered-n-Cleaned Обучение проводилось в течение 2 эпох. Мы использовали графические процессоры 8xH100s, любезно предоставленные Recursal AI/Featherless AI, для полнопараметрической точной настройки модели.
Модальности:
Генерация текста
Области применения:
Диалог / чат
Задача: Генерация текста
Автор: anthracite-org
Теги: gguf, Chat, en, endpoints_compatible, imatrix, conversational
Лайков: 12 | Загрузок: 72
Описание основано на материалах HuggingFace. Перевод выполнен автоматически.
