Это модель Гелион-4х34Б. Я использовал этот репозиторий для создания модели MOE. Поскольку в Bagel-dpo-34b-v0.2 используется множество шаблонов подсказок, вы можете использовать шаблоны подсказок, предоставленные Bagel, и шаблоны подсказок других экспертов. Квантованные версии этой модели доступны благодаря TheBloke.
Модальности:
Генерация текста
Области применения:
Диалог / чат
Задача: Генерация текста
Автор: Weyaxi
Теги: mixtral, yi, moe, conversational, model-index, text-generation-inference, endpoints_compatible
Лайков: 11 | Загрузок: 209
Описание основано на материалах HuggingFace. Перевод выполнен автоматически.
