Это ТЕСТ. Он был сделан с использованием специального сценария управления ортогональной активацией, которым я поделился ЗДЕСЬ: https://huggingface.co/posts/Undi95/318385306588047#663609dc1818d469455c0222 (но будьте готовы вложить руки в какой-то испорченный код, братан) Шаг: — Сначала я взял Unholy (FT L3 на Toxic Dataset) — Затем я обучил 2 эпохи DPO сверху с тем же самым набором данных (https://wandb.ai/undis95/Uncensored8BDPO/runs/3rg4rz13/workspace?nw=nwuserundis95). — Наконец, я использовал OAS сверху, перебрав слой, чтобы получить лучший (я не совсем понимаю все это, извините)
Модальности:
Генерация текста
Области применения:
Диалог / чат
Задача: Генерация текста
Автор: Undi95
Теги: llama, conversational, text-generation-inference, endpoints_compatible
Лайков: 7 | Загрузок: 17
Описание основано на материалах HuggingFace. Перевод выполнен автоматически.
