Zephyr — это серия языковых моделей, которые обучены выступать в роли полезных помощников. Zephyr-7B-α — первая модель в серии и представляет собой доработанную версию mistralai/Mistral-7B-v0.1, обучение которой проводилось на общедоступных синтетических наборах данных с использованием оптимизации прямых предпочтений (DPO). Мы обнаружили, что удаление встроенного выравнивания этих наборов данных повысило производительность MT Bench и сделало модель более полезной. Однако это означает, что модель, скорее всего, будет генерировать проблемный текст, когда ей будет предложено это сделать. – Тип модели: модель, подобная GPT, с параметрами 7B, точно настроенная на основе общедоступных синтетических наборов данных. — Язык(и) (NLP): преимущественно английский — Лицензия: MIT — Точная настройка на основе модели: mistralai/Mistral-7B-v0.1 — Репозиторий: https://github.com/huggingface/alignment-handbook — Демо: https://huggingface.co/spaces/HuggingFaceH4/zephyr-chat Модель изначально была точно настроена на варианте набора данных UltraChat, который содержит разнообразный диапазон синтетических диалогов, генерируемых ChatGPT. Затем мы дополнительно согласовали модель с 🤗 DPOTrainer от TRL на наборе данных openbmb/UltraFeedback, который содержит 64 тыс. подсказок и завершений модели, которые ранжируются по GPT-4. Как результат,…
Модальности:
Генерация текста
Области применения:
Диалог / чат
Задача: Генерация текста
Автор: HuggingFaceH4
Теги: mistral, generated_from_trainer, conversational, en, text-generation-inference, endpoints_compatible
Лайков: 1,120 | Загрузок: 3,906
Описание основано на материалах HuggingFace. Перевод выполнен автоматически.
