Протестируйте возможности всего поколения здесь: https://transformer.huggingface.co/doc/gpt2-large Предварительно обученная модель на английском языке с использованием цели каузального языкового моделирования (CLM). Он был представлен в этой статье и впервые опубликован на этой странице. hr-gpt2 — это модель трансформаторов, предварительно обученная на очень большом корпусе данных Croation самоконтролируемым образом. Это означает, что он был предварительно обучен только на необработанных текстах, и никто не маркировал их каким-либо образом (поэтому он может использовать много общедоступных данных) с помощью автоматического процесса для генерации входных данных и меток из этих текстов. Точнее, его учили угадывать следующее слово в предложениях. Точнее, входы — это последовательности непрерывного текста определенной длины, а цели — это одна и та же последовательность, сдвинутая на один маркер (слово или фрагмент слова) вправо. Модель использует внутренний механизм маски, чтобы убедиться, что в прогнозах для токена i используются только входные данные от 1 до i, но не будущие токены. Таким образом, модель изучает внутреннее представление македонского языка, которое затем можно использовать для извлечения функций, полезных для последующих задач. Однако модель лучше всего подходит для того, для чего она была предварительно подготовлена, что…
Модальности:
Генерация текста
Задача: Генерация текста
Автор: macedonizer
Теги: gpt2, hr, text-generation-inference, endpoints_compatible
Лайков: 2 | Загрузок: 28
Описание основано на материалах HuggingFace. Перевод выполнен автоматически.
