Представляем серию GA Guard — семейство моделей модерации с открытым весом, созданных, чтобы помочь разработчикам и организациям обеспечить безопасность, соответствие языковым моделям и соответствие их реальному использованию. GA-Guard предназначен для обнаружения нарушений по следующим семи категориям: — Незаконная деятельность – инструкции или контент, связанные с преступлениями, оружием или запрещенными веществами. — Ненависть и насилие – преследование, оскорбления, дегуманизация или оскорбительные выражения. — PII и IP – раскрытие или вымогательство конфиденциальной личной информации, секретов или интеллектуальной собственности. — Оперативная безопасность – взломы, быстрое внедрение, секретная эксфильтрация или попытки запутывания. — Сексуальный контент – материалы откровенно сексуального характера или материалы для взрослых. — Дезинформация – заведомо ложные или вводящие в заблуждение утверждения, представленные как факт. — Насилие и членовредительство – контент, поощряющий насилие, членовредительство или самоубийство. Модель выводит структурированный токен для каждой категории (например, или). >[!Примечание] > Важно: эта модель выводит специальные токены (например, ). Не используйте конвейер(«генерация текста»), поскольку он удаляет их по умолчанию. Всегда декодируйте с помощью Skipspecialtokens=False`, чтобы сохранить выходные данные. Возможности GA Guard Lite: — Тип: причинно-следственная языковая модель -…
Модальности:
Генерация текста
Области применения:
Диалог / чат
Задача: Генерация текста
Автор: GeneralAnalysis
Теги: qwen3, Moderation, Safety, Filter, conversational, en, text-generation-inference, endpoints_compatible
Лайков: 6 | Загрузок: 52,528
Описание основано на материалах HuggingFace. Перевод выполнен автоматически.
