Это 12-я модель в серии, призванной воспроизвести прозаическое качество моделей Claude 3, в частности Sonnet и Opus. Эта модель является результатом нескольких прогонов KTO поверх одного прогона SFT, все из которых опубликованы на сайте anthracite-forge. R1 (SFT) был доработан поверх IntervitensInc/gemma-2-27b-chatml, который является чат-модифицированным gemma-2-27b. Мы экспериментировали с различными повторными запусками SFT и KTO, соотношениями и методами слияния, и это стало нашим победителем, включая то, что понравилось больше всего из каждой модели. Если вы предпочитаете свой собственный набор прогонов KTO или хотите использовать SFT отдельно, обратитесь к разделу моделей и anthracite-forge, некоторые exl-quants включены заранее. anthracite-forge/magnum-v3-27b-kto-r3 anthracite-forge/magnum-v3-27b-KTO-e1-r2 * anthracite-forge/magnum-v3-27b-KTO-e0.25-r1 Модель была настроена с использованием форматирования ChatML. Типичный ввод будет выглядеть так: Ниже приведены шаблоны инструкций и контекста для использования в SillyTavern. Мы хотели бы поблагодарить Recursal/Featherless за спонсирование вычислений для этого поезда. Featherless размещает наши модели Magnum с момента появления первых 72 B, предоставил тысячам людей доступ к нашим моделям и помог нам расти. Мы бы…
Модальности:
Генерация текста
Задача: Генерация текста
Автор: anthracite-org
Теги: gemma2, gemma-2, model-index, text-generation-inference, endpoints_compatible
Лайков: 16 | Загрузок: 25
Описание основано на материалах HuggingFace. Перевод выполнен автоматически.
