Представляем TenyxChat-8x7B-v1, часть нашей серии TenyxChat, предназначенную для работы в качестве полезных помощников посредством настройки предпочтений с использованием недавно выпущенной передовой технологии тонкой настройки Tenyx (статья VentureBeat). Наша модель обучена с использованием платформы Direct Preference Optimization (DPO) на базе данных обратной связи AI с открытым исходным кодом UltraFeedback. Мы настраиваем Mixtral-8x7B-Instruct-v0.1 с помощью нашего собственного подхода (блог, сервис), аналогичного подходу нашей модели 7B, и показываем увеличение оценок MT-Bench. Наш подход направлен на уменьшение забывания в LLM эффективным с точки зрения вычислений способом, тем самым обеспечивая возможности постоянной точной настройки без изменения предварительно обученного распределения выходных данных. TenyxChat-8x7B-v1 обучался с использованием восьми устройств A100 (80 ГБ) в течение примерно восьми часов с использованием настройки обучения, полученной из HuggingFaceH4 (GitHub). — Тип модели: Доработанная модель Mixture Of Expert 8x7B для чата. — Лицензия: Apache 2.0 — Базовая модель: Mixtral-8x7B-Instruct-v0.1 — Демо: space/tenyx/TenyxChat-8x7B-v1 В нашей модели используется простой шаблон чата на основе Mixtral-8x7B-Instruct-v0.1. Ниже показано использование шаблона чата с примером создания обнимающего лица. На момент выпуска (январь 2024 г.)…
Модальности:
Генерация текста
Области применения:
Диалог / чат
Задача: Генерация текста
Автор: tenyx
Теги: mixtral, tenyx-fine-tuning, dpo, tenyxchat, conversational, en, text-generation-inference, endpoints_compatible
Лайков: 12 | Загрузок: 213
Описание основано на материалах HuggingFace. Перевод выполнен автоматически.
