Эта модель является расширенной версией доработанной версии gpt2-small-turkish. В дополнение к дампу статей Википедии на турецком языке от 28.10.2020 эта модель обучена на более чем 400 классических романах и пьесах на турецком языке (включая Достоевского, Шекспира, Дюма). Базовая работа была выполнена по учебнику Пьера Гийу, как на этой странице. (https://github.com/piegu/fastai-projects/blob/master/finetuning-English-GPT2-any-language-Portuguese-HuggingFace-fastaiv2.ipynb) Обратите внимание: поскольку турецкий язык не близок к английскому, как в португальском, вместо обучения последних двух слоев обучаются последние три слоя. Код конвертирован для работы с Fastai 2.X. Использование Google Colab для обучения. Демонстрация (с использованием вывода ЦП) доступна по адресу: http://www.metayazar.com [gpt2-small-tuned-tr] (https://huggingface.co/gorkemgoknar/gpt2-small-turkish) [gpt2-small-turkish-writer] (https://huggingface.co/gorkemgoknar/gpt2-turkish-writer). Данные обучения, используемые для этой модели, взяты из Турецкая Википедия и книги. Мы знаем, что он содержит много нефильтрованного контента из Интернета, который далеко не нейтральен. Кроме того, в книгах не проводилась большая предварительная обработка, поэтому в некоторых случаях можно увидеть названия глав и номера страниц. Это работа в…
Модальности:
Генерация текста
Задача: Генерация текста
Автор: gorkemgoknar
Теги: jax, gpt2, turkish, aiwriter, finetuned, tr, text-generation-inference, endpoints_compatible
Лайков: 11 | Загрузок: 24
Описание основано на материалах HuggingFace. Перевод выполнен автоматически.
