GPT2-Poet — это модель преобразователя GPT-2, настроенная на большом массиве данных английских стихотворений с самоконтролем. Это означает, что он был предварительно обучен только на необработанных текстах, и никто из людей не помечал их каким-либо образом с помощью автоматического процесса генерации входных данных и меток из этих текстов. Точнее, его обучали угадывать следующее слово в предложениях. Точнее, входы — это последовательности непрерывного текста определенной длины, а цели — та же последовательность, сдвинутая на один токен (слово или фрагмент слова) вправо. Модель использует внутри механизм маски, чтобы гарантировать, что прогнозы для токена i используют только входные данные от 1 до i, но не будущие токены. Таким образом, модель изучает внутреннее представление английского языка, которое затем можно использовать для извлечения функций, полезных для последующих задач. Вы можете использовать необработанную модель для генерации текста или настроить ее для последующей задачи. Просмотрите центр моделей, чтобы найти доработанные версии для интересующей вас задачи.
Модальности:
Генерация текста
Задача: Генерация текста
Автор: ashiqabdulkhader
Теги: tf, gpt2, endpoints_compatible
Лайков: 4 | Загрузок: 43
Описание основано на материалах HuggingFace. Перевод выполнен автоматически.
