Краткое описание модели: Granite Guardian 3.3 8b — это специализированная модель Granite 3.3 8B, предназначенная для оценки того, соответствуют ли входные запросы и выходные ответы системы на основе LLM заданным критериям. Модель поставляется с заранее заданными критериями, включая, помимо прочего: попытки взлома, ненормативную лексику и галлюцинации, связанные с вызовами инструментов и поиском дополненной генерации в агентных системах. Кроме того, модель также позволяет пользователям использовать свои собственные критерии и адаптировать поведение оценки к конкретным случаям использования. Эта версия Granite Guardian представляет собой гибридную модель мышления, которая позволяет пользователю действовать в мыслящей или немыслящей модели. В режиме мышления модель выдает подробные логические следы и теги. В режиме «без раздумий» модель выдает только оценку оценки через теги. Он обучается на уникальных данных, включающих аннотации, сделанные человеком, и синтетические данные, полученные от внутренней красной команды. Он превосходит другие модели с открытым исходным кодом в той же области по стандартным тестам. — Разработчики: IBM Research — Репозиторий GitHub: ibm-granite/granite-guardian — Поваренная книга: Рецепты Granite Guardian — Веб-сайт: Granite Guardian Docs — Бумага: Granite Guardian — Дата выпуска:…
Модальности:
Генерация текста
Области применения:
Диалог / чат
Задача: Генерация текста
Автор: ibm-granite
Теги: granite, conversational, en, endpoints_compatible
Лайков: 32 | Загрузок: 6,500
Описание основано на материалах HuggingFace. Перевод выполнен автоматически.
