Представляем SauerkrautLM-SOLAR-Instruct — нашу версию мощного upstage/SOLAR-10.7B-Instruct-v1.0 для квашеной капусты! Согласовано с DPO 1. Обзор всех моделей SauerkrautLM-SOLAR-Instruct 2. Сведения о модели — Шаблон подсказки — Набор обучающих данных — Тест на загрязнение данных 3. Оценка 5. Отказ от ответственности 6. Контакт 7. Сотрудничество 8. Благодарность SauerkrautLM-SOLAR-Instruct — Тип модели: SauerkrautLM-SOLAR-Instruct — это настроенная модель, основанная на upstage/SOLAR-10.7B-Instruct-v1.0 — Язык(и): английский, немецкий — Лицензия: cc-by-nc-4.0 — Контакт: Веб-сайт Дэвид Гольхинфар SauerkrautLM-SOLAR-Instruct прошел обучение с использованием дополнения немецких данных и переведенных данных. Согласовано через DPO с нашим новым немецким набором данных SauerkrautLM-DPO на основе частей набора данных SFT SauerkrautLM в качестве выбранных ответов и Sauerkraut-7b-HerO в качестве отклоненных ответов. Добавлены дополнительные переведенные части HuggingFaceH4/ultrafeedbackbinarized (наш набор данных не содержит никаких подсказок TruthfulQA — проверьте результаты теста на загрязнение данных) и argilla/distilabel-math-preference-dpo.** Мы обнаружили, что только простой перевод обучающих данных может привести к неестественным немецким фразам. Были использованы методы увеличения данных…
Модальности:
Генерация текста
Области применения:
Следование инструкциям Диалог / чат
Задача: Генерация текста
Автор: VAGOsolutions
Теги: llama, finetune, dpo, Instruct, augmentation, german, conversational, en
Лайков: 46 | Загрузок: 813
Описание основано на материалах HuggingFace. Перевод выполнен автоматически.
