Это генеративная модель, разработанная специально для переписывания поисковых запросов и использующая последовательную архитектуру для генерации переформулированных запросов. Он использует структуру обучения с подкреплением для дальнейшего повышения производительности за счет интеграции алгоритма градиента политики. Модель обучена с помощью функций вознаграждения, направленных на диверсификацию генерируемых запросов путем перефразирования ключевых слов. Его можно интегрировать с методами разреженного поиска, такими как поиск на основе bm25, для улучшения отзыва документов при поиске. Переписывание запросов для поиска (Интернет, электронная коммерция), Виртуальные помощники и чат-боты, Поиск информации 1. Процесс обучения начинается с инициализации модели «последовательность-последовательность» с помощью базовой модели Google T5. 2. Первоначально модель проходит контролируемое обучение с использованием набора данных пар запросов MS-MARCO. 3. Впоследствии модель подвергается точной настройке с использованием структуры обучения с подкреплением (RL), чтобы повысить ее способность генерировать разнообразные и релевантные запросы. 4. Для точной настройки модели используется политический градиентный подход. Для данного входного запроса из модели выбирается набор траекторий (переформулированные запросы) и вычисляется вознаграждение. Применяется алгоритм градиента политики…
Модальности:
Генерация текста
Области применения:
Генерация кода
Задача: Генерация текста
Автор: prhegde
Теги: t5, text2text-generation, code, en, text-generation-inference, endpoints_compatible
Лайков: 7 | Загрузок: 23
Описание основано на материалах HuggingFace. Перевод выполнен автоматически.
