Granite Guardian 3.2 3B-A800M — это усовершенствованная модель инструкций Granite 3.2 3B-A800M, предназначенная для обнаружения рисков в подсказках и ответах. Это может помочь в обнаружении рисков по многим ключевым параметрам, перечисленным в Атласе рисков IBM AI. Он обучается на уникальных данных, включающих аннотации, сделанные человеком, и синтетические данные, полученные от внутренней красной команды. Он превосходит другие модели с открытым исходным кодом в той же области по стандартным тестам. — Разработчики: IBM Research — Репозиторий GitHub: ibm-granite/granite-guardian — Поваренная книга: Рецепты Granite Guardian — Веб-сайт: Granite Guardian Docs — Бумага: Granite Guardian — Дата выпуска: 26 февраля 2025 г. — Лицензия: Apache 2.0 Granite Guardian полезен для сценариев использования по обнаружению рисков, которые применимы в широком спектре корпоративных приложений — — Обнаружение рисков, связанных с вредом, в тексте подсказок, ответах моделей или разговорах (в качестве ограждения). Они представляют собой принципиально разные варианты использования: первый оценивает текст, предоставленный пользователем, второй оценивает текст, сгенерированный моделью, а третий оценивает последний этап разговора. — Вариант использования RAG (генерация с расширенным поиском), где модель опекуна оценивает три ключевых вопроса: актуальность контекста (независимо от того,…
Модальности:
Генерация текста
Области применения:
Диалог / чат
Задача: Генерация текста
Автор: ibm-granite
Теги: granitemoe, conversational, endpoints_compatible
Лайков: 8 | Загрузок: 2,990
Описание основано на материалах HuggingFace. Перевод выполнен автоматически.
