Zephyr — это серия языковых моделей, которые обучены выступать в роли полезных помощников. Zephyr-7B-β — вторая модель в серии и представляет собой доработанную версию mistralai/Mistral-7B-v0.1, обучение которой проводилось на общедоступных синтетических наборах данных с использованием оптимизации прямых предпочтений (DPO). Мы обнаружили, что удаление встроенного выравнивания этих наборов данных повысило производительность MT Bench и сделало модель более полезной. Однако это означает, что модель, скорее всего, будет генерировать проблемный текст, когда ей будет предложено это сделать. Более подробную информацию вы можете найти в техническом отчете. Этот репозиторий содержит веса zephyr-7b-beta в формате npz, подходящем для использования с платформой Apple MLX. Пожалуйста, обратитесь к оригинальной карточке модели для получения более подробной информации о Zephyr 7B β. Обратите внимание, что эта модель предполагает определенную структуру подсказок. Вот пример:
Модальности:
Генерация текста
Задача: Генерация текста
Автор: mlx-community
Теги: mlx, mistral, zephyr, en
Лайков: 12 | Загрузок: 267
Описание основано на материалах HuggingFace. Перевод выполнен автоматически.