MiniGuard-v0.1 — это компактный классификатор безопасности контента, усовершенствованный на основе Qwen3-0.6B. Он классифицирует контент как по вводу пользователя (классификация подсказок), так и по ответам LLM (классификация ответов), выдавая информацию о том, является ли данный запрос или ответ безопасным или небезопасным, а также о нарушенных категориях безопасности. MiniGuard-v0.1 достигает примерно 99% эталонной точности Nemotron-Guard-8B с в 13 раз меньшим количеством параметров и превосходит Qwen3Guard-8B (специализированную модель безопасности 8B) на 9 процентных пунктов по производственным данным. MiniGuard-v0.1 использует тот же шаблон приглашения, что и nvidia/Llama-3.1-Nemotron-Safety-Guard-8B-v3. Это полноценная замена данной модели. — Несколько разделов карты этой модели скопированы непосредственно из nvidia/Llama-3.1-Nemotron-Safety-Guard-8B-v3. > Примечание. Шаблон чата был изменен, чтобы отключить режим мышления Qwen3. MiniGuard-v0.1 генерирует метки безопасности напрямую, без логических рассуждений во время вывода. MiniGuard-v0.1 был обучен с использованием четырех ключевых методов, позволяющих преодолеть компромисс между безопасностью и задержкой: 1. Целевые синтетические данные. Для устранения конкретных режимов сбоев (например, спортивных терминов, неоднозначных крайних случаев) мы создали около 1200 целевых примеров, используя…
Модальности:
Генерация текста
Области применения:
Диалог / чат
Задача: Генерация текста
Автор: prem-research
Теги: qwen3, safety, conversational, en, text-generation-inference, endpoints_compatible
Лайков: 14 | Загрузок: 177
Описание основано на материалах HuggingFace. Перевод выполнен автоматически.
