Модель ShieldLM (бумажная ссылка), инициализированная из Qwen-14B-Chat. ShieldLM — это двуязычный (китайский и английский) детектор безопасности, целью которого в основном является обнаружение проблем безопасности в поколениях LLM. Он соответствует общим стандартам безопасности человека, поддерживает детально настраиваемые правила обнаружения и предоставляет объяснения своих решений. Обратитесь к нашему репозиторию GitHub для получения более подробной информации. Пожалуйста, обратитесь к нашему репозиторию GitHub для получения подробных инструкций по использованию. ShieldLM демонстрирует впечатляющую производительность обнаружения в четырех наборах тестов ID и OOD по сравнению с такими сильными базовыми показателями, как GPT-4, Llama Guard и Perspective API. Более подробные результаты оценки см. в нашей статье.
Модальности:
Генерация текста
Задача: Генерация текста
Автор: thu-coai
Теги: qwen, custom_code, en, zh
Лайков: 14 | Загрузок: 93
Описание основано на материалах HuggingFace. Перевод выполнен автоматически.
