Arab-Sahm — это LLM для создания состязательных на арабском языке, созданный для авторизованной красной команды, оценки надежности и стресс-тестирования безопасности больших языковых моделей. Модель настроена на основе Qwen/Qwen3-4B для создания подсказок на арабском языке, которые проверяют слабые места модели, границы политики и режимы сбоев в условиях контролируемой оценки. Arab-Sahm создан не в качестве классификатора модерации или общего помощника, а в качестве модели агрессивной оценки для исследовательских групп по безопасности, сравнительного анализа безопасности и рабочих процессов «красных команд». Основное внимание уделяется арабскому языку. Это важно, поскольку арабский язык по-прежнему недостаточно представлен в состязательных подсказках, оценке побега из тюрьмы и сравнительном анализе безопасности по сравнению с английским языком. Arab-Sahm призван помочь устранить этот разрыв, создавая более естественные, разнообразные и эффективные подсказки в стиле арабской атаки для оценки арабских и многоязычных LLM. — утвержденные учения красной команды LLM — составление состязательных подсказок для оценки безопасности на арабском языке — сравнительный анализ надежности — исследование переноса джейлбрейка и создания многоязычных атак — оценка систем отказа, ограждений и политик безопасности — сравнение устойчивости целевой модели на арабском языке…
Модальности:
Генерация текста
Области применения:
Диалог / чат
Задача: Генерация текста
Автор: NAMAA-Space
Теги: arabic, red-team, adversarial-prompts, robustness, safety-evaluation, llm, qwen, prompt-security
Лайков: 6 | Загрузок: 16
Описание основано на материалах HuggingFace. Перевод выполнен автоматически.
