SLM для семантически аналогичной замены PII для обеспечения лучшей конфиденциальности конечного пользователя. Anonymizer-1.7B — это модель анонимизации среднего размера, обученная с использованием Group Relative Policy Optimization (GRPO) и судьи GPT-4.1 для оценки. Он уравновешивает скорость и точность, достигая почти идеального качества анонимизации, сохраняя при этом возможность развертывания на потребительских устройствах. Он обеспечивает защиту чувствительных запросов внутри Enchanted. Основное использование: Анонимайзер по умолчанию внутри Enchanted. Вторичное использование: локальный анонимайзер в пользовательских развертываниях, где требуется высокая точность. База: Qwen3-1.7B. Данные: ~30 тыс. образцов, охватывающих категории замены без замены PII. Метод: Контролируемая точная настройка → GRPO с GPT-4.1 в качестве судьи. Счет: 9.20/10 (рядом с GPT-4.1’s 9.77/10). Латентность**: тяжелее, чем 0,6B → медленнее на мобильных устройствах. Некоторые чрезвычайно уникальные запросы все еще могут быть прослеживаемыми при маршрутизации к внешним закрытым моделям. ⚠️ Важно: Эта модель требует определенного форматирования с использованием шаблона чата токенизатора. Не используйте необработанные подсказки напрямую. 1. Требуется шаблон чата: модель НЕ будет работать с необработанными подсказками. Необходимо использовать tokenizer.applychattemplate() с параметром tools. 2. Требуемая схема инструмента: Схема инструментов…
Модальности:
Генерация текста
Области применения:
Диалог / чат
Задача: Генерация текста
Автор: eternisai
Теги: qwen3, conversational, text-generation-inference, endpoints_compatible
Лайков: 3 | Загрузок: 54
Описание основано на материалах HuggingFace. Перевод выполнен автоматически.
