!image/png Это шестая модель в серии, предназначенная для воспроизведения качества прозы моделей Claude 3, в частности Sonnet и Opus. Эта модель точно настроена поверх Mistral-Large-Instruct-2407. Модель была настроена с помощью форматирования Mistral. Типичный ввод будет выглядеть следующим образом: мы также предоставляем предустановки SillyTavern для Context и Instruct соответственно. Пресет Mistral, включенный в SillyTavern, по-видимому, неправильно настроен по умолчанию, поэтому мы рекомендуем использовать его в качестве замены. — anthracite-org/Stheno-Data-Filtered — anthracite-org/kalo-opus-instruct-22k-no-refusal — anthracite-org/nopmclaudewriting_fixed Эта модель была командной, и кредиты достаются всем членам Anthracite. Обучение проводилось в течение 1,5 эпох. Для полнопараметрической доводки модели мы использовали 8x AMD Instinct™ MI300X Accelerators. В дополнение к этому мы заметили, что модели Mistral Large казались гораздо более чувствительными к корректировкам скорости обучения, чем другие модели: мы предполагаем, что это в первую очередь связано с особенно узким и низким дисперсионным весовым распределением, типичным для производных моделей Mistral, независимо от их масштаба. В конце концов, из-за затрат, которые были бы…
Модальности:
Генерация текста
Области применения:
Диалог / чат
Задача: Генерация текста
Автор: anthracite-org
Теги: chat, en, fr, de, es, it, pt, ru
Лайков: 3 | Загрузок: 8
Описание основано на материалах HuggingFace. Перевод выполнен автоматически.
