Zephyr — это серия языковых моделей, обученных выполнять функции полезных помощников. Zephyr-7B-β — это вторая модель в серии и доработанная версия mistralai/Mistral-7B-v0.1, которая была обучена на комбинации общедоступных синтетических наборов данных с использованием прямой оптимизации предпочтений (DPO). Мы обнаружили, что удаление встроенного согласования этих наборов данных повысило производительность на MT Bench и сделало модель более полезной. Однако это означает, что модель, скорее всего, будет генерировать проблемный текст, если ее попросить об этом, и ее следует использовать только в образовательных и исследовательских целях. Более подробную информацию можно найти в техническом отчете. — Тип модели: GPT-подобная модель с 7 млрд параметров, дообученная на комбинации общедоступных синтетических наборов данных. — Язык(и) (NLP): в основном английский — Лицензия: MIT — Дообучена на основе модели: mistralai/Mistral-7B-v0.1 — Репозиторий: https://github.com/huggingface/alignment-handbook — Демоверсия: https://huggingface.co/spaces/HuggingFaceH4/zephyr-chat — Chatbot Arena: сравнение Zephyr 7B с 10 LLM в LMSYS Arena: http://arena.lmsys.org На момент выпуска Zephyr-7B-β является самой высокорейтинговой чат-моделью с 7 млрд параметров в бенчмарках MT-Bench и AlpacaEval: в…
Модальности:
Генерация текста
Области применения:
Диалог / чат
Задача: Генерация текста
Автор: LoneStriker
Теги: mistral, generated_from_trainer, conversational, en, text-generation-inference, endpoints_compatible
Лайков: 2 | Загрузок: 12
Описание основано на материалах HuggingFace. Перевод выполнен автоматически.