GPTPoet — это предварительно обученная языковая модель арабского языка, основанная на архитектуре OpenAi GPT2. Мы используем ту же конфигурацию GPT2-Base. Более подробную информацию можно найти в Google Colab [https://colab.research.google.com/drive/1kByhyhvA0JUZRKL-XCG0ZEDyAg45w8AW?usp=sharing]. Чтобы сэкономить время вычислений, модель использовала предварительно обученные веса из другой модели. Это позволило нам точно настроить нашу модель на нашем конкретном наборе данных, который, насколько нам известно, никогда раньше не использовался в задачах НЛП. Это генератор стихов, который создает стихи на основе стиля целевого поэта. Модель была обучена на разных поэтах и их стихах, а входные данные модели — это имя поэта и предположение о том, что модель будет стремиться разработать что-то, имитирующее стиль этого конкретного поэта. Все модели доступны на странице моделей HuggingFace под названием usama98. Контрольные точки доступны в PyTorch. Наша модель добавляет недавно опробованную возможность моделей НЛП, когда мы пытаемся не просто генерировать текст, а имитировать определенный стиль. Наш набор данных содержит стихи, собранные от разных поэтов. Данные были переданы в модель во время обучения с целью научить модель структурировать арабскую поэзию. …
Модальности:
Генерация текста
Задача: Генерация текста
Автор: usama98
Теги: gpt2, ar, text-generation-inference, endpoints_compatible
Лайков: 4 | Загрузок: 15
Описание основано на материалах HuggingFace. Перевод выполнен автоматически.
