Granite Guardian 3.1 2B — это доработанная модель инструкций Granite 3.1 2B, предназначенная для обнаружения рисков в подсказках и ответах. Это может помочь в обнаружении рисков по многим ключевым параметрам, перечисленным в Атласе рисков IBM AI. Он обучается на уникальных данных, включающих аннотации, сделанные человеком, и синтетические данные, полученные от внутренней красной команды. Он превосходит другие модели с открытым исходным кодом в той же области по стандартным тестам. — Разработчики: IBM Research — Репозиторий GitHub: ibm-granite/granite-guardian — Поваренная книга: Рецепты Granite Guardian — Веб-сайт: Granite Guardian Docs — Документ: Granite Guardian — Дата выпуска: 18 декабря 2024 г. — Лицензия: Apache 2.0 Granite Guardian полезен для сценариев использования по обнаружению рисков, применимых к широкому спектру корпоративных приложений — — Обнаружение рисков, связанных с вредом, с помощью быстрого текстового или модельного ответа (например, ограждения). Они представляют два принципиально разных варианта использования: первый оценивает текст, предоставленный пользователем, а второй — текст, сгенерированный моделью. — Вариант использования RAG (генерация с расширенным поиском), где охранная модель оценивает три ключевых вопроса: релевантность контекста (релевантно ли полученный контекст запросу), обоснованность (релевантно ли…
Модальности:
Генерация текста
Области применения:
Диалог / чат
Задача: Генерация текста
Автор: ibm-granite
Теги: granite, conversational, en, endpoints_compatible
Лайков: 16 | Загрузок: 2,410
Описание основано на материалах HuggingFace. Перевод выполнен автоматически.
