Granite Guardian 3.2 5B — это урезанная версия Granite Guardian 3.1 8B, предназначенная для обнаружения рисков в подсказках и ответах. Это может помочь в обнаружении рисков по многим ключевым параметрам, перечисленным в Атласе рисков IBM AI. Для создания этой модели Granite Guardian итеративно обрезается и восстанавливается на основе тех же уникальных данных, включающих человеческие аннотации и синтетические данные, полученные с помощью внутренней красной команды, которая использовалась для его обучения. Около 30% исходных параметров были удалены, что позволило ускорить вывод и снизить требования к ресурсам, сохраняя при этом конкурентоспособную производительность. Он превосходит другие модели с открытым исходным кодом в той же области по стандартным тестам. Процедура прореживания, основанная на итеративной обрезке и исцелении, описана более подробно в отдельном разделе ниже. — Разработчики: IBM Research — Репозиторий GitHub: ibm-granite/granite-guardian — Поваренная книга: Рецепты Granite Guardian — Веб-сайт: Granite Guardian Docs — Документ: Granite Guardian — Дата выпуска: 26 февраля 2024 г. — Лицензия: Apache 2.0 Granite Guardian полезен для сценариев использования по обнаружению рисков, которые применимы в широком спектре корпоративных приложений — — Обнаружение рисков, связанных с вредом, с помощью текста подсказки, модели…
Модальности:
Генерация текста
Области применения:
Диалог / чат
Задача: Генерация текста
Автор: ibm-granite
Теги: granite, conversational, endpoints_compatible
Лайков: 14 | Загрузок: 1,521
Описание основано на материалах HuggingFace. Перевод выполнен автоматически.
