BrowseSafe — это многоуровневая стратегия защиты, включающая как архитектурную, так и модельную защиту для защиты от развивающихся атак с быстрым внедрением. Это специализированная модель безопасности, предназначенная для защиты браузерных агентов искусственного интеллекта от атак с быстрым внедрением, встроенных в реальный веб-контент. — Современное обнаружение: достигается показатель F1 90,4% на тестовом наборе BrowseSafe-Bench. — Задержка в реальном времени: оптимизирована для циклов агентов, позволяет выполнять асинхронные проверки безопасности без ухудшения пользовательского опыта. — Устойчивость к отвлекающим факторам: специально обучен различать вредоносные инструкции и безопасный, богатый структурой HTML-шум (например, атрибуты доступности, скрытые поля формы), который часто сбивает с толку стандартные детекторы. — Комплексное покрытие: проверено против 11 типов атак с различными уровнями критичности безопасности, 9 стратегий внедрения, 5 типов отвлекающих факторов, 5 типов генерации контекстной информации, 5 доменов, 3 лингвистических стилей и 5 показателей оценки, обеспечивая широкий спектр возможностей защиты. — Тип: точно настроенная причинно-языковая модель (MoE) для классификации SFT. — Этап обучения: после обучения (тонкая настройка на BrowseSafe-Bench). — Набор данных: BrowseSafe-Bench. — Базовая модель:…
Модальности:
Генерация текста
Области применения:
Диалог / чат
Языки программирования:
HTML/CSS
Задача: Генерация текста
Автор: perplexity-ai
Теги: qwen3_moe, security, prompt-injection, ai-safety, browser-agents, html, conversational, en
Лайков: 45 | Загрузок: 326
Описание основано на материалах HuggingFace. Перевод выполнен автоматически.
