Согласование безопасности удалено с помощью пяти независимых направлений атаки для исследования безопасности. Эта модель достигает ~0% детерминированного отказа (по сравнению со 100%) на самой устойчивой к абляции архитектуре в нашей базе данных из 17+ моделей с использованием метода пяти поверхностей, разработанного в результате 17 раундов систематических экспериментов. Ранг 32, 18 модулей, 11,7 млн параметров. Обучено на 177 реальных парах соответствия из удаленной модели E4B. Потери сошлись с 2,63 до 0,19 за 10 эпох. Тренировался на ОРИГИНАЛЬНОЙ модели, слитой перед абляцией. Когерентная абляция: направление = 0,7 в среднем (L55-L58) + 0,3 в исходном L59`. Нацелен на основной механизм отказа (Механизм 1), сохраняя при этом генерацию результатов. Новое открытие: зонды-следы показали, что модель имеет два независимых механизма отказа, действующих в ортогональных подпространствах. После удаления Механизма 1 оставшиеся отказы показали косинусное сходство -0,011 с удаленным направлением — практически нулевое. Механизм 2, по-видимому, действует через отделимый компонент, связанный с отказом, в ортогональном подпространстве. Мы устраняем этот второй механизм, используя усредненные по соседям остаточные направления в масштабе 1,5. 13 внедрений токенов с отказом запуска, уменьшенных в 10 раз за…
Модальности:
Генерация текста
Области применения:
Диалог / чат
Задача: Генерация текста
Автор: WWTCyberLab
Теги: gemma4, image-text-to-text, abliteration, safety-research, alignment, lora, conversational, endpoints_compatible
Лайков: 6 | Загрузок: 27
Описание основано на материалах HuggingFace. Перевод выполнен автоматически.
