— Технический отчет -> https://arxiv.org/abs/2512.20293 — Блог -> https://huggingface.co/blog/ServiceNow-AI/aprielguard AprielGuard обучен выявлять широкий спектр угроз безопасности и состязательных атак, объединенных в общую таксономию. — Токсичный контент — Недобросовестное представление — Контент для взрослых — Подрыв доверия к публичной информации — Распространение заблуждений/ложных убеждений — Рискованные финансовые практики — Торговля и соблюдение требований — Распространение опасной информации — Нарушение конфиденциальности — Угрозы безопасности — Клевета — Мошенничество или вводящие в заблуждение действия — Операции влияния — Незаконная деятельность — Убеждение и манипулирование — Посягательство на личную собственность Состязательный характер Категории атак. Модель обнаруживает и оценивает широкий спектр состязательных шаблонов подсказок, предназначенных для манипулирования поведением модели или обхода механизмов безопасности. Он выводит двоичную классификацию (например, состязательный/несостязательный), а не подробные категории атак. Данные обучения охватывают различные типы состязательных действий, такие как ролевые игры, построение мира, убеждение и стилизация, а также многие другие сложные стратегии оперативного манипулирования. Эти примеры представляют собой лишь часть более широкого состязательного…
Модальности:
Генерация текста
Области применения:
Диалог / чат
Задача: Генерация текста
Автор: ServiceNow-AI
Теги: mistral, conversational, text-generation-inference, endpoints_compatible
Лайков: 20 | Загрузок: 619
Описание основано на материалах HuggingFace. Перевод выполнен автоматически.
