Эта модель представляет собой обрезанную модель Mistral, переработанную с использованием рецепта Zephyr. Эта модель имеет двухэтапное обучение: SFT и DPO. Первоначальная модель состоит из выбора нескольких слоев модели Mistral для создания модели меньшего размера. Код можно найти здесь: github.com/tcapelle/shear
Модальности:
Генерация текста
Области применения:
Диалог / чат
Задача: Генерация текста
Автор: wandb
Теги: mistral, conversational, text-generation-inference, endpoints_compatible
Лайков: 4 | Загрузок: 11
Описание основано на материалах HuggingFace. Перевод выполнен автоматически.