> Исследование CyberNeurova — cyberneurova.ai. > Многоосная аблитерация на модели чата МО с гибридным вниманием и режимом мышления. Навсегда стертая версия Qwen/Qwen3.6-35B-A3B — 35B-всего/3B-активная модель смеси экспертов Qwen с гибридным вниманием (линейные уровни Gated DeltaNet, перемежающиеся стандартным само-вниманием) и интегрированной цепочкой рассуждений. Направление отказа фиксировалось в остаточном потоке LM и ортогонализировалось из каждого линейного выражения записи в остаток (и трехмерного объединенного экспертного тензора). Вывод не изменился — никаких перехватов во время выполнения, никакого замедления. На сегодняшний день это наиболее архитектурно сложная модель в линейке устранения CyberNeurova, объединяющая четыре задачи структуры в одной: MoE с 256 объединенными экспертами + общий эксперт, гибридное внимание (linearattn + selfattn на блок), трехуровневые пути атрибутов (model.model.language_model.layers) и отказы в режиме мышления, заключенные в CoT, которые требовали обновления классификатора только для того, чтобы их можно было обнаружить. Выдающиеся достижения: — Отказ полностью провалился по обоим тестам (90,9% → 0% и 85,5% → 0%) — не сохранилось никаких шаблонов отказов даже по запросам, не подлежащим распространению. — Киберразблокировка значительна: +30 пп по кибероружию, +19,7 пп по взлому…
Модальности:
Генерация текста
Области применения:
Диалог / чат
Задача: Генерация текста
Автор: cyberneurova
Теги: qwen3_5_moe, abliterated, uncensored, qwen, qwen3.6, moe, mixture-of-experts, hybrid-attention
Лайков: 7 | Загрузок: 286
Описание основано на материалах HuggingFace. Перевод выполнен автоматически.
