!image/png Это шестая модель в серии, призванной воспроизвести прозаическое качество моделей Claude 3, в частности Sonnet и Opus. Данная модель доработана на базе Мистраль-Большой-Инструкт-2407. Модель прошла Instruct и настроена под формат Mistral. Типичный ввод будет выглядеть так: Мы также предоставляем пресеты SillyTavern для контекста и инструкций соответственно. Пресет Mistral, включенный в SillyTavern, похоже, по умолчанию настроен неправильно, поэтому мы рекомендуем использовать его в качестве замены. — anthracite-org/Stheno-Data-Filtered — anthracite-org/kalo-opus-instruct-22k-no-refusal — anthracite-org/nopmclaudewriting_fixed Эта модель является результатом командной работы, и заслуга принадлежит всем членам Anthracite. Обучение проводилось в течение 1,5 эпох. Для полнопараметрической точной настройки модели мы использовали 8 ускорителей AMD Instinct™ MI300X. В дополнение к этому мы заметили, что большие модели Mistral кажутся гораздо более чувствительными к корректировке скорости обучения, чем другие модели: мы предполагаем, что это в первую очередь связано с особенно узким и низким распределением веса дисперсии, типичным для моделей, производных от Mistral, независимо от их масштаба. В конце концов, из-за затрат, которые будут…
Модальности:
Генерация текста
Области применения:
Диалог / чат
Задача: Генерация текста
Автор: anthracite-org
Теги: mistral, chat, conversational, en, fr, de, es, it
Лайков: 64 | Загрузок: 30
Описание основано на материалах HuggingFace. Перевод выполнен автоматически.
