GPT2-Malayalam — это модель трансформатора GPT-2, тонко настроенная на большой корпус данных Malayalam самоконтролем. Это означает, что он был предварительно обучен только на необработанных текстах, и ни один человек не маркировал их каким-либо образом с помощью автоматического процесса для генерации входных данных и меток из этих текстов. Точнее, его учили угадывать следующее слово в предложениях. Точнее, входы — это последовательности непрерывного текста определенной длины, а цели — это одна и та же последовательность, сдвинутая на один маркер (слово или фрагмент слова) вправо. Модель использует внутренний механизм маски, чтобы убедиться, что в прогнозах для токена i используются только входные данные от 1 до i, но не будущие токены. Таким образом, модель изучает внутреннее представление языка малаялам, которое затем можно использовать для извлечения функций, полезных для последующих задач. Вы можете использовать необработанную модель для генерации текста или точно настроить ее для последующей задачи. Просмотрите концентратор моделей, чтобы найти точные версии интересующей вас задачи.
Модальности:
Генерация текста
Задача: Генерация текста
Автор: ashiqabdulkhader
Теги: tf, gpt2, endpoints_compatible
Лайков: 3 | Загрузок: 50
Описание основано на материалах HuggingFace. Перевод выполнен автоматически.