유해한 프롬프트와 응답을 탐지하기 위해 개발된 3B 규모의 한국어 특화 분류 모델입니다. 기존의 영어 중심 Guard 모델들과 비교했을 때 더 작은 모델 크기에도 불구하고 한국어 Поместите его в горячую воду. Место проведения: — Wildjailbreak(WJ) 데이터셋에서 80.116의 F1 점수를 달성하여 기존 모델들을 크게 상회하는 성능을 보여줍니다. — Wildguardmix-Prompt: 87.381 의 최고 성능을 기록했습니다. — 응답 유해성 탐지(WG-Resp) 에서도 84,653 으로 우수한 성능을 보입니다. ShieldGemma может быть использована в целях безопасности, KosafeGuard может быть использована в качестве основного средства защиты. 있습니다. Лама-Страж может быть использован в качестве защитного устройства. В качестве примера можно привести следующие действия: — Wildjailbreak(WJ): 프롬프트의 유해성을 분류하는 데이터셋 — Wildguardmix(WG)): 프롬프트 유해성(-Prompt), 응답 거절(-Refusal), 응답 유해성(-Resp) 분류를 위한 데이터셋 – Разработчик: Хигю Ким (khk6435@ajou.ac.kr) – Доработано на основе модели: Blllossom/llama-3.2-Korean-Blossom-3B
Модальности:
Генерация текста
Области применения:
Диалог / чат
Задача: Генерация текста
Автор: iknow-lab
Теги: llama, conversational, ko, en, text-generation-inference, endpoints_compatible
Лайков: 5 | Загрузок: 121
Описание основано на материалах HuggingFace. Перевод выполнен автоматически.