Это моя первая попытка смоделировать потоковый чат Filian’s Twitch на основе соскобленных данных. Модель представляет собой тонкую настройку GPT-Neo по параметрам 125М. Модель можно было обучить в течение 30 минут на GTX 1650 с функцией закрепления памяти Pytorch для совместного использования локальной оперативной памяти с графическим процессором. Не забудьте включить префикс «СТРИМЕР: » в конце подсказки или в любом месте, куда должен идти ответ стримера. «Сообщения чата» дополняются ключевым словом «CHAT: ». In case the Hosted Inference API (text box on the side) gets too little text, just keep pressing «Compute» until the sentence ends. Using the keyword «STREAM TITLE» will attempt to replicate the name of a stream: You can also induce the streamer to say something by adding a few words of your own at the beginning:
Модальности:
Генерация текста
Задача: Генерация текста
Автор: Differentiable
Теги: gpt_neo, twitch, en, endpoints_compatible
Лайков: 2 | Загрузок: 42
Описание основано на материалах HuggingFace. Перевод выполнен автоматически.