Эта модель представляет собой доработанную версию Qwen2.5-7B-Instruct без цензуры. Тем не менее, я все же могу заметить, что, несмотря на отсутствие цензуры, модель не может генерировать подробные описания некоторых экстремальных сценариев, которые могут быть связаны с удалением некоторых наборов данных предварительного обучения на этапе предварительного обучения Qwen. Я использовал SFT + DPO, чтобы обеспечить отсутствие цензуры, а также попытаться сохранить возможности исходной модели. — SFT: — NothingExistsOnTheInternet/ToxicQAFinal — anthracite-org/kalo-opus-instruct-22k-no-refusal — DPO: — Orion-zhen/dpo-токсический-ж — unalignment/токсический-dpo-v0.2 — Crystalcareai/Intel-DPO-Pairs-Norefusals
Модальности:
Генерация текста
Области применения:
Диалог / чат Следование инструкциям
Задача: Генерация текста
Автор: Orion-zhen
Теги: qwen2, qwen, uncensored, conversational, zho, eng, fra, spa
Лайков: 48 | Загрузок: 10,316
Описание основано на материалах HuggingFace. Перевод выполнен автоматически.
