Представляем TenyxChat, серию ChatGPT-подобных моделей, обученных работать в качестве полезных помощников посредством настройки предпочтений с использованием недавно выпущенной передовой технологии тонкой настройки Tenyx (статья VentureBeat). Наша первая модель чата в этой серии, TenyxChat-7B-v1, обучена с использованием платформы Direct Preference Optimization (DPO) на наборе данных обратной связи AI с открытым исходным кодом UltraFeedback. Мы достраиваем Openchat-3.5 своим собственным подходом (блог, сервис), который показывает прирост в MT-Bench, без падения производительности модели на других бенчмарках. Наш подход направлен на уменьшение забывания в LLM эффективным с точки зрения вычислений способом, тем самым обеспечивая возможности постоянной точной настройки без изменения предварительно обученного распределения выходных данных. TenyxChat-7B-v1 обучался с использованием восьми устройств A100 (80 ГБ) в течение двух часов с использованием обучающей настройки, полученной от HuggingFaceH4 (GitHub). — Тип модели: Доработанная модель 7B для чата. — Лицензия: Apache 2.0 — Базовая модель: OpenChat 3.5 (https://huggingface.co/openchat/openchat_3.5) — Демо: space/tenyx/TenyxChat-7B-v1 В нашей модели используется простой шаблон чата на основе OpenChat 3.5. Ниже показано использование шаблона чата с примером создания обнимающего лица.…
Модальности:
Генерация текста
Области применения:
Диалог / чат
Задача: Генерация текста
Автор: tenyx
Теги: mistral, tenyx-fine-tuning, dpo, tenyxchat, conversational, en, text-generation-inference, endpoints_compatible
Лайков: 25 | Загрузок: 437
Описание основано на материалах HuggingFace. Перевод выполнен автоматически.
