Llama-3.1-Nemotron-Safety-Guard-8B-v3 — это многоязычная модель безопасности контента, которая модерирует контент взаимодействия человека с LLM и классифицирует запросы пользователя и ответы LLM как безопасные или небезопасные. Если контент небезопасен, модель дополнительно возвращает ответ со списком категорий, которые контент нарушает. Он поддерживает 9 языков: английский, испанский, китайский, немецкий, французский, хинди, японский, арабский и тайский. Базовой моделью большого языка (LLM) является многоязычная модель Llama-3.1-8B-Instruct от Meta. Оптимизированная версия NVIDIA настроена с учетом LoRa на утвержденных наборах данных и лучше соответствует таксономии рисков безопасности контента NVIDIA и другим рискам безопасности при взаимодействии человека с LLM. Модель обучается с использованием набора данных Nemotron-Safety-Guard-Dataset-v3, который синтетически курируется с помощью конвейера CultureGuard. Модель демонстрирует сильную нулевую генерализацию, поддерживающую более 20 языков (en, ar, de, es, fr, hi, ja, th, zh, it, ko, nl, cs, da, fi, iw, pt-BR, pl, ru, sv). Модель может быть предложена с использованием инструкции и таксономии небезопасных рисков, которые необходимо классифицировать. Формат инструкций для быстрой модерации показан ниже под примерами ввода и вывода. Для подробного описания…
Модальности:
Генерация текста
Области применения:
Диалог / чат
Задача: Генерация текста
Автор: nvidia
Теги: llama, content moderation, llm safety, multilingual content safety, multilingual guard model, toxicity detection, CultureGuard, Nemotron
Лайков: 17 | Загрузок: 73,160
Описание основано на материалах HuggingFace. Перевод выполнен автоматически.
