> [!NOTE] > Этот репозиторий содержит модели, преобразованные в формат GGUF с различными вариантами квантования из базовой модели IBM Granite. > > Ознакомьтесь с полной картой модели базовой модели здесь: > https://huggingface.co/ibm-granite/granite-guardian-4.1-8b Granite Guardian 4.1 8B — это специализированная модель безопасности, доработанная на основе ibm-granite/granite-4.1-8b, предназначенная для оценки того, соответствуют ли входные запросы и выходные ответы системы на основе LLM заданным критериям. Модель поставляется с заранее заданными критериями, включая, помимо прочего: попытки взлома, ненормативную лексику и галлюцинации, связанные с вызовами инструментов и поиском дополненной генерации в системах на основе агентов. Кроме того, модель также позволяет пользователям использовать свои собственные критерии и адаптировать поведение оценки к конкретным случаям использования. Эта версия Granite Guardian представляет собой гибридную модель мышления, которая позволяет пользователю действовать в режиме мышления или недумания. В режиме мышления модель выдает подробные трассировки рассуждений посредством тегов … и …. В режиме «без раздумий» модель выдает оценку только через теги «…». Он обучен на уникальных данных, включающих человеческие аннотации и синтетические данные…
Модальности:
Генерация текста
Области применения:
Диалог / чат
Задача: Генерация текста
Автор: ibm-granite
Теги: gguf, granite, guardian, safety, hallucination, thinking, tool-calling, agent
Лайков: 5 | Загрузок: 701
Описание основано на материалах HuggingFace. Перевод выполнен автоматически.
