Семейство OpenChat v2 основано на автономном обучении с подкреплением, включая условное клонирование поведения (OpenChat-v2) и взвешенное клонирование поведения (OpenChat-v2-w). — OpenChat-v2-w: ~80 тыс. очищенных данных ShareGPT с кондиционированием и взвешенными потерями на основе LLaMA-13B с длиной контекста 2048. — Достигается коэффициент выигрыша 50,9% над ChatGPT на MT-bench. — Достигает 79,4% побед над ChatGPT на скамейке Викуньи. — Достиг 87,1% побед над text-davinci-003 на AlpacaEval. — OpenChat-v2: ~80 тыс. очищенных данных ShareGPT только с кондиционированием, на основе LLaMA-13B с длиной контекста 2048. — Достигается процент побед над ChatGPT на MT-bench 48,1%. — Достигает 80,6% побед над ChatGPT на скамейке Викуньи. — Достигает 85,0% побед над text-davinci-003 на AlpacaEval. Мы предоставляем полный исходный код, включая сервер вывода, совместимый с API ChatCompletions, в репозитории OpenChat GitHub. OpenChat также включает веб-интерфейс для лучшего взаимодействия с пользователем. Инструкции см. в репозитории GitHub. Шаблон диалога включает в себя объединение токенов и не может быть выражен в виде обычного текста. Помимо словаря базовой модели, добавляется жетон конца хода. Чтобы изучить условный язык…
Модальности:
Генерация текста
Области применения:
Диалог / чат
Задача: Генерация текста
Автор: openchat
Теги: llama, en, text-generation-inference, endpoints_compatible
Лайков: 13 | Загрузок: 918
Описание основано на материалах HuggingFace. Перевод выполнен автоматически.