Это многоязычная модель детоксикации текста объемом 3,7 млрд для 9 языков, построенная на основе общей задачи TextDetox 2024 на основе mT0-XL. Модель обучалась в двухэтапной схеме: первый этап — это полная точная настройка различных наборов данных детоксикации параллельного текста, а второй этап — выравнивание ORPO по самостоятельно аннотируемому набору данных о предпочтениях, собранному с использованием классификаторов токсичности и сходства. Более подробную информацию смотрите в статье. С точки зрения человеческой оценки эта модель является вторым лучшим подходом к общей задаче TextDetox 2024. Точнее, модель показывает самые современные показатели по украинскому языку, первые два балла по арабскому языку и почти самые современные показатели по другим языкам.
Модальности:
Генерация текста
Задача: Генерация текста
Автор: s-nlp
Теги: mt5, text2text-generation, am, ru, en, uk, de, ar
Лайков: 4 | Загрузок: 48
Описание основано на материалах HuggingFace. Перевод выполнен автоматически.
