Библиотека Guardian включает четыре возможности, реализованные в виде адаптеров LoRA для IBM-granite/granite-4.0-micro. Каждая возможность была разработана для конкретной задачи, связанной с безопасностью, фактологией и соответствием политике в системах на основе LLM. Мы даем краткий обзор функциональности каждой возможности, подробности можно найти в каждом README. Четыре возможности, которые были реализованы в виде адаптеров LoRA для ibm-granite/granite-4.0-micro и доступны в этом репозитории HF: Guardian Core: адаптер LoRA, обученный оценивать, соответствуют ли входные запросы и выходные ответы системы на основе LLM заданным критериям, включая риски безопасности (вред, взлом, ненормативная лексика, насилие, сексуальный контент, социальные предубеждения, неэтичное поведение), галлюцинации, связанные с вызовами инструментов/функций, а также расширенный поиск. генерации (RAG) в агентных системах. Модель выводит объект JSON с полем оценки, указывающим «да» (критерий соответствует/обнаружен риск) или «нет» (критерий не соответствует/нет риска). Подробности можно найти в файле readme для Guardian-Core. Обнаружение фактов: адаптер LoRA, специально разработанный для оценки фактической правильности путем явного учета контекстуальных отрывков…
Модальности:
Генерация текста
Задача: Генерация текста
Автор: ibm-granite
Теги: granite-library, granite, guardian, safety, hallucination, factuality, lora, peft
Лайков: 16 | Загрузок: 4,901
Описание основано на материалах HuggingFace. Перевод выполнен автоматически.
