Представляем SauerkrautLM-Mixtral-8x7B-Instruct — нашу версию мощного Mixtral-8x7B-Instruct для квашеной капусты! Согласовано с DPO 1. Обзор всех моделей SauerkrautLM-Mixtral 2. Сведения о модели — Шаблон подсказки — Набор обучающих данных — Тест на загрязнение данных 3. Оценка 5. Отказ от ответственности 6. Контакт 7. Сотрудничество 8. Благодарность SauerkrautLM-Mixtral-8x7B-Instruct — Тип модели: SauerkrautLM-8x7B-Instruct-v0.1 представляет собой модель Mixture of Experts (MoE), основанную на mistralai/Mixtral-8x7B-Instruct-v0.1. Языки: английский, немецкий, французский, итальянский, испанский. Лицензия: APACHE 2.0. Контакты: Веб-сайт Дэвид Гольхинфар. увеличение и преобразование данных. Согласовано через DPO с нашим новым немецким набором данных SauerkrautLM-DPO на основе частей набора данных SFT SauerkrautLM в качестве выбранных ответов и Sauerkraut-7b-HerO в качестве отклоненных ответов. Добавлены дополнительные переведенные части HuggingFaceH4/ultrafeedbackbinarized (наш набор данных не содержит никаких подсказок TruthfulQA — проверьте результаты теста на загрязнение данных) и argilla/distilabel-math-preference-dpo.** Мы обнаружили, что только простой перевод обучающих данных может привести к неестественным…
Модальности:
Генерация текста
Области применения:
Следование инструкциям Диалог / чат
Задача: Генерация текста
Автор: VAGOsolutions
Теги: mixtral, mistral, finetune, dpo, Instruct, augmentation, german, moe
Лайков: 22 | Загрузок: 676
Описание основано на материалах HuggingFace. Перевод выполнен автоматически.
