Версия Google gemma-4-E4B-it, усиленная быстрым внедрением, созданная с помощью механизма машинного обучения Hirundo. Модель ведет себя идентично базовой модели по своим основным возможностям, но вероятность следовать введенным инструкциям в тесте PurpleLlama от Meta на 74,5% ниже. Стандартная схема внедрения подсказок — задействовать классификаторы, ужесточить системные подсказки или провести еще один раунд безопасного SFT. Каждый из них добавляет задержку, хрупкость или нагрузку на возможности — и ни один из них не меняет основного характера модели. Подход Хирундо другой: мы хирургическим путем изменяем веса, чтобы устранить целевое поведение. Результатом является модель замены, которая: — Не требует затрат времени на вывод — нет дополнительного классификатора в пути — Сохраняет полезность — измерима с помощью рассуждений, кодирования, следования инструкциям и эталонов знаний (см. ниже) — На порядки эффективнее, чем SFT или RLHF — Не требует полного переобучения, нет сбора данных о предпочтениях — Поддается проверке в самих весах, а не в оболочке, из которой можно извлечь Коэффициент успеха атаки (ASR), агрегированный по всем Категории атак в пакете быстрого внедрения PurpleLlama от Meta: оценено с помощью NVIDIA…
Модальности:
Генерация текста
Области применения:
Диалог / чат
Задача: Генерация текста
Автор: hirundo-io
Теги: gemma4, prompt-injection, security, machine-unlearning, hardened, hirundo, gemma, conversational
Лайков: 6 | Загрузок: 337
Описание основано на материалах HuggingFace. Перевод выполнен автоматически.
