Granite Guardian 3.0 8B — это доработанная модель инструкций Granite 3.0 8B, предназначенная для обнаружения рисков в подсказках и ответах. Это может помочь в обнаружении рисков по многим ключевым параметрам, перечисленным в Атласе рисков IBM AI. Он обучается на уникальных данных, включающих аннотации, сделанные человеком, и синтетические данные, полученные от внутренней красной команды. Он превосходит другие модели с открытым исходным кодом в той же области по стандартным тестам. — Разработчики: IBM Research — Репозиторий GitHub: ibm-granite/granite-guardian — Поваренная книга: Рецепты Granite Guardian — Веб-сайт: Granite Guardian Docs — Дата выпуска: 21 октября 2024 г. — Лицензия: Apache 2.0 — Технический отчет: Granite Guardian Granite Guardian полезен для сценариев использования по обнаружению рисков, которые применимы в широком спектре корпоративных приложений — — Обнаружение рисков, связанных с вредом, с помощью текстового сообщения или ответа модели (например, ограждения). Они представляют собой два принципиально разных варианта использования: первый оценивает текст, предоставленный пользователем, а второй оценивает текст, сгенерированный моделью. — Вариант использования RAG (генерация с расширенным поиском), где охранная модель оценивает три ключевых вопроса: контекстная релевантность (релевантность извлеченного контекста запросу), обоснованность…
Модальности:
Генерация текста
Области применения:
Диалог / чат
Задача: Генерация текста
Автор: ibm-granite
Теги: granite, conversational, en, endpoints_compatible
Лайков: 38 | Загрузок: 510
Описание основано на материалах HuggingFace. Перевод выполнен автоматически.
