Затем я сделал простое линейное слияние между ними: экспериментальной неизданной моделью 8x7B и неизданной моделью, которая была промежуточным шагом в создании Envoid/BondBurger-8x7B. Конечные результаты оказались на удивление хорошей моделью для развлечений в стиле ролевой игры. Сначала я был разочарован результатами, но в итоге остановился на следующих параметрах сэмплера, которые действительно оживляют его. Он хорошо реагирует на команду [INST] сделать что-нибудь [/INST] на форматирование стиля (хотя использует специальные токены ChatML).
Модальности:
Генерация текста
Области применения:
Диалог / чат
Задача: Генерация текста
Автор: Envoid
Теги: mixtral, not-for-all-audiences, conversational, text-generation-inference, endpoints_compatible
Лайков: 11 | Загрузок: 13
Описание основано на материалах HuggingFace. Перевод выполнен автоматически.
