Zephyr — это серия языковых моделей, которые обучены выступать в роли полезных помощников. Zephyr 7B Gemma — третья модель в серии и представляет собой доработанную версию google/gemma-7b, которая была обучена на общедоступных синтетических наборах данных с использованием оптимизации прямых предпочтений (DPO). Вы можете воспроизвести обучение этой модели по рецепту, представленному в «Руководстве по выравниванию». – Тип модели: модель, подобная GPT, с параметрами 7B, точно настроенная на основе общедоступных синтетических наборов данных. — Язык(и) (NLP): преимущественно английский. — Лицензия: Условия использования Gemma. — Точная настройка на основе модели: google/gemma-7b. — Репозиторий: https://github.com/huggingface/alignment-handbook. — Демо: https://huggingface.co/spaces/HuggingFaceH4/zephyr-7b-gemma-chat. Модель изначально была доработана на DEITA 10K. набор данных, который содержит широкий спектр синтетических диалогов, созданных ChatGPT. Затем мы дополнительно согласовали модель с 🤗 DPOTrainer от TRL на наборе данных argilla/dpo-mix-7k, который содержит 7 тысяч подсказок и завершений модели, которые ранжируются по GPT-4. В результате модель можно использовать для чата, а вы можете посмотреть нашу демо-версию, чтобы проверить ее возможности. Вот как вы можете запустить модель, используя…
Модальности:
Генерация текста
Области применения:
Диалог / чат
Задача: Генерация текста
Автор: LoneStriker
Теги: gguf, alignment-handbook, trl, dpo, generated_from_trainer, model-index, endpoints_compatible, conversational
Лайков: 7 | Загрузок: 39
Описание основано на материалах HuggingFace. Перевод выполнен автоматически.
