Llama Guard 3 — это предварительно обученная модель Llama-3.1-8B, настроенная для классификации безопасности контента. Подобно предыдущим версиям, его можно использовать для классификации контента как во входных данных LLM (классификация подсказок), так и в ответах LLM (классификация ответов). Он действует как LLM — на выходе генерирует текст, который указывает, является ли данное приглашение или ответ безопасным или небезопасным, а если небезопасно, он также перечисляет нарушенные категории контента. Llama Guard 3 предназначен для защиты от стандартизированной таксономии опасностей MLCommons и предназначен для поддержки возможностей Llama 3.1. В частности, он обеспечивает модерацию контента на 8 языках и был оптимизирован для обеспечения безопасности и защищенности вызовов инструментов поиска и интерпретатора кода. Ниже приведен пример классификации ответов для Llama Guard 3. Чтобы получить оценки классификатора, мы смотрим на вероятность первого токена и используем ее как вероятность «небезопасного» класса. Затем мы можем применить пороговое значение оценки для принятия бинарных решений. Модель обучена прогнозировать метки безопасности по 14 категориям, показанным ниже, на основе таксономии MLCommons, состоящей из 13 опасностей, а также дополнительной категории для злоупотреблений интерпретатором кода для использования вызовов инструментов…
Модальности:
Генерация текста
Области применения:
Диалог / чат
Задача: Генерация текста
Автор: meta-llama
Теги: llama, facebook, meta, llama-3, conversational, en, text-generation-inference, endpoints_compatible
Лайков: 273 | Загрузок: 179,927
Описание основано на материалах HuggingFace. Перевод выполнен автоматически.
