ОБНОВЛЕНИЕ Оригинальная модель (Zephyr 7B Alpha) недавно была разбита. Вы можете использовать оригинальную модель. 💻 Используя эту версию, вы можете легко загрузить модель в Colab и поиграть с ней! Из оригинальной карточки модели: > Zephyr — это серия языковых моделей, которые обучены выступать в роли полезных помощников. Zephyr-7B-α — первая модель в серии и представляет собой доработанную версию mistralai/Mistral-7B-v0.1, обучение которой проводилось на общедоступных синтетических наборах данных с использованием оптимизации прямых предпочтений (DPO). Мы обнаружили, что удаление встроенного выравнивания этих наборов данных повысило производительность MT Bench и сделало модель более полезной. Однако это означает, что модель, скорее всего, создаст проблемный текст, когда будет предложено это сделать, и ее следует использовать только в образовательных и исследовательских целях. Эта версия модели предназначена в первую очередь для бесперебойной работы на Colab. Я предлагаю загрузить модель с 8-битным квантованием, чтобы у вас был свободный графический процессор для выполнения вывода. Однако вполне нормально загружать модель с половинной точностью или с более сильным квантованием (4 бита).
Модальности:
Генерация текста
Области применения:
Диалог / чат
Задача: Генерация текста
Автор: anakin87
Теги: mistral, conversational, en, text-generation-inference, endpoints_compatible
Лайков: 16 | Загрузок: 18
Описание основано на материалах HuggingFace. Перевод выполнен автоматически.
