[Набор инструментов для ответственного генеративного ИИ][rai-toolkit] [ShieldGemma на Kaggle][shieldgemma-kaggle] * [ShieldGemma на Hugging Face Hub][shieldgemma-hfhub] Краткое описание и краткое определение входных и выходных данных. ShieldGemma — это серия моделей безопасной модерации контента, основанных на [Gemma 2][gemma2] и нацеленных на четыре категории вреда (откровенно сексуальный контент, опасный контент, ненависть и домогательства). Это большие языковые модели преобразования текста в текст, предназначенные только для декодера, доступные на английском языке с открытыми весами, включая модели трех размеров: параметры 2B, 9B и 27B. Входные данные: текстовая строка, содержащая преамбулу, текст, который нужно классифицировать, набор политик и эпилог подсказки. Полное приглашение должно быть отформатировано с использованием определенного шаблона для оптимальной производительности. В этом разделе описан шаблон, используемый для сообщаемых показателей оценки. Выходные данные: текстовая строка, которая начинается с токена «Да» или «Нет» и указывает, нарушает ли пользовательский ввод или выходные данные модели предоставленные политики. Шаблон подсказки содержит следующие компоненты по порядку: 1. Преамбула, устанавливающая модель в качестве эксперта по политике на основе метода [LLM-как судья][LLM-as-Judge]. 1. Пользовательское приглашение, обернутое и…
Модальности:
Генерация текста
Области применения:
Диалог / чат
Задача: Генерация текста
Автор: google
Теги: gemma2, conversational, text-generation-inference, endpoints_compatible
Лайков: 109 | Загрузок: 10,107
Описание основано на материалах HuggingFace. Перевод выполнен автоматически.
