> Неограниченная версия Qwen/Qwen3.5-9B, созданная с помощью Abliterix — автоматическая аблитерация LLM посредством ортогонального управления и байесовской оптимизации. Надежный баланс возможностей и эффективности при параметрах 9B: процент отказов 1% при практических требованиях к видеопамяти. Abliterix устраняет поведение отказа от безопасности, сохраняя при этом возможности модели: 1. Извлечение направления отказа — 800 вредных + 800 доброкачественных подсказок выявляют шаблоны активации отказа на каждом уровне. 2. Ортогональная проекция — изолирует сигнал отказа, проецируя компоненты, соответствующие нормальным реакциям, уменьшая количество отказов на 67% по сравнению с необработанным удалением. 3. Удаление на основе LoRA — модификации внимания и весов MLP первого ранга, фиксируемые как упрощенные. адаптеры (не разрушительные правки) 4. Байесовская оптимизация — Optuna TPE ищет форму ядра, дробный индекс направления и прочность каждого компонента в 50 испытаниях, чтобы найти оптимальный по Парето баланс низкого количества отказов и низкого расхождения KL — Abliterix (фреймворк удаления): github.com/wuwangzhang1216/abliterix — Установка: pip install -U abliterix-llm — Базовая модель: Квен/Квен3.5-9Б
Модальности:
Генерация текста
Области применения:
Диалог / чат
Задача: Генерация текста
Автор: wangzhang
Теги: qwen3_5, abliterix, uncensored, decensored, abliterated, conversational
Лайков: 11 | Загрузок: 167
Описание основано на материалах HuggingFace. Перевод выполнен автоматически.
