Zephyr — это серия языковых моделей, которые обучены выступать в роли полезных помощников. Zephyr-7B-β — вторая модель в серии и представляет собой доработанную версию mistralai/Mistral-7B-v0.1, обучение которой проводилось на общедоступных синтетических наборах данных с использованием оптимизации прямых предпочтений (DPO). Мы обнаружили, что удаление встроенного выравнивания этих наборов данных повысило производительность MT Bench и сделало модель более полезной. Однако это означает, что модель, скорее всего, будет генерировать проблемный текст, когда ей будет предложено это сделать. Более подробную информацию вы можете найти в техническом отчете. – Тип модели: модель, подобная GPT, с параметрами 7B, точно настроенная на основе общедоступных синтетических наборов данных. — Язык(и) (NLP): преимущественно английский — Лицензия: MIT — Точная настройка на основе модели: mistralai/Mistral-7B-v0.1 — Репозиторий: https://github.com/huggingface/alignment-handbook — Демо: https://huggingface.co/spaces/HuggingFaceH4/zephyr-chat — Арена чат-ботов: оцените Zephyr 7B против 10+ LLM на арене LMSYS: http://arena.lmsys.org На момент выпуска Zephyr-7B-β является моделью чата 7B с самым высоким рейтингом в тестах MT-Bench и AlpacaEval: В частности, в нескольких категориях MT-Bench Zephyr-7B-β имеет…
Модальности:
Генерация текста
Области применения:
Диалог / чат
Задача: Генерация текста
Автор: HuggingFaceH4
Теги: mistral, generated_from_trainer, conversational, en, model-index, text-generation-inference, endpoints_compatible
Лайков: 1,834 | Загрузок: 107,732
Описание основано на материалах HuggingFace. Перевод выполнен автоматически.