(Примечание. Это экспортированная модель INT4 executorch. Чтобы узнать больше о том, как запустить эту модель на периферийных устройствах, ознакомьтесь со следующим ресурсом здесь) Llama Guard 3-1B — это тщательно настроенная модель Llama-3.2-1B, предварительно обученная для классификации безопасности контента. Подобно предыдущим версиям, его можно использовать для классификации контента как во входных данных LLM (классификация подсказок), так и в ответах LLM (классификация ответов). Он действует как LLM — на выходе генерирует текст, который указывает, является ли данное приглашение или ответ безопасным или небезопасным, а если небезопасно, он также перечисляет нарушенные категории контента. Llama Guard 3-1B был адаптирован для защиты от стандартизированной таксономии опасностей MLCommons и разработан для снижения затрат на развертывание системы модерации по сравнению с его предшественниками. Он поставляется в двух версиях: 1B и 1B с обрезкой и квантованием, оптимизированных для развертывания на мобильных устройствах. Как только вы получите доступ к весам моделей, для начала обратитесь к нашей документации. Вы также можете точно настроить Llama Guard для своего варианта использования здесь: Настройка Llama Guard 3: настройка таксономии, подсказки с нулевым или несколькими выстрелами, оценка и точная настройка. Модель обучена прогнозировать знаки безопасности на 13…
Модальности:
Генерация текста
Задача: Генерация текста
Автор: meta-llama
Теги: executorch, facebook, meta, llama, llama-3, en, de, fr
Лайков: 27 | Загрузок: 7
Описание основано на материалах HuggingFace. Перевод выполнен автоматически.
