Затем мы создали MoE на базе MiquMaid-v2-70B-DPO и Miqu-70B-DPO, создав модель с использованием точной настройки И базовой модели для каждого токена, работая вместе. Обе модели были обучены использованию DPO для удаления цензуры. Дополнительную информацию о Miqu-70B-DPO можно найти здесь. Мы увидели значительное улучшение, поэтому решили поделиться им, даже если модель очень большая. — Наборы данных Aesir — NoRobots — limarp — Toxic-dpo-v0.1-sharegpt — ToxicQAFinal
Модальности:
Генерация текста
Области применения:
Диалог / чат
Задача: Генерация текста
Автор: NeverSleep
Теги: mixtral, not-for-all-audiences, nsfw, conversational, text-generation-inference, endpoints_compatible
Лайков: 16 | Загрузок: 93
Описание основано на материалах HuggingFace. Перевод выполнен автоматически.
