Серия моделей DynaGuard представляет собой семейство моделей-защитников, предназначенных для оценки текста на соответствие определенным пользователем политикам естественного языка. Они предоставляют гибкое и мощное решение для модерирования результатов чат-бота за пределами статических, предопределенных категорий вреда. Серия, разработанная исследователями из Университета Мэриленда и Capital One, включает в себя три модели открытого веса разных размеров: 1.7B, 4B и 8B, что позволяет разработчикам выбирать лучший баланс производительности и эффективности для своих нужд. В отличие от традиционных моделей опекунов, которые проверяют фиксированный набор видов вреда (например, насилие или членовредительство), DynaGuard может применять индивидуальные правила, специфичные для конкретного приложения. Сюда входят такие сценарии, как предотвращение ошибочной выплаты возмещения ботом службы поддержки клиентов или предотвращение предоставления медицинским ботом несанкционированных советов. Серия DynaGuard обеспечивает самые современные характеристики по широкому спектру показателей безопасности и соответствия требованиям, при этом флагманская модель DynaGuard-8B превосходит другие модели Guardian и даже сильные универсальные модели, такие как GPT-4o-mini. Разработано: Университет Мэриленда, Capital One. Базовая модель: Qwen3-8B Тип модели: только декодер. Обучающие данные трансформатора: точно настроенные…
Модальности:
Генерация текста
Области применения:
Диалог / чат
Задача: Генерация текста
Автор: tomg-group-umd
Теги: qwen3, guardrail, safety, moderation, dynaguard, umd, llm, conversational
Лайков: 15 | Загрузок: 827
Описание основано на материалах HuggingFace. Перевод выполнен автоматически.
