Версия Google Gemma 4 E4B без цензуры, в которой поведение отказа удалено с помощью сохраняющей нормы двухпроекционной аблитерации. Аблитерация выполнялась с использованием Heretic (режим бипроекции) со следующей конфигурацией: — Бипроекция: ортогональная абляция с сохранением норм (grimjim, ноябрь 2025 г.) — Выбор слоя: метрика качества на основе SNR, верхние 100% слоев — Винсоризация: квантиль 0,995 (контролирует активацию выбросов GeGLU) — Удаление тематических маркеров: удалены ложноположительные маркеры («незаконные», «вредный» и т. д.) — Патч Gemma 4: таргетинг LoRA по полному пути во избежание Gemma4ClippableLinear в кодировщиках видео/аудио. Полная проверка на 4 независимых наборах контрольных данных — 0 отказов из 656 запросов (0,0%). Каждый помеченный ответ проверялся вручную. Кроме того, 10-кратная проверка на наличие вредного дыма подтвердила 0 отказов. Проверки связности (фактическое припоминание, творческое письмо) пройдены — модель правильно реагирует на безобидные подсказки без ухудшения качества. Прямое сравнение с базовой (немодифицированной) моделью по 100 вредоносным подсказкам: Топологический отпечаток активаций среднего слоя до и после аблитерации, вычисленный с помощью постоянной гомологии (комплекс Вьеторис-Рипс): Интерпретация: Минимальная…
Модальности:
Генерация текста
Области применения:
Диалог / чат
Задача: Генерация текста
Автор: InfinimindCreations
Теги: gguf, gemma4, image-text-to-text, uncensored, abliterated, biprojection, norm-preserving, conversational
Лайков: 7 | Загрузок: 877
Описание основано на материалах HuggingFace. Перевод выполнен автоматически.
