это файнтюн sberai ruGPT3 small (125 млн параметров) на всех оригинальных нуждиках (2 часа транскрибированные через openai whisper medium). размер блока при файнтюне 1024, 25 эпох. все скрипты по инференсу модели тут https://github.com/ai-forever/ru-gpts, transformers вполне через себя работает на 4 гб видеопамяти, на 2 думаю тоже заработает. -как запустить через трансформаторы? запускаем строки ниже в jupyterе setseed(32) generator = pipeline(‘text-generation’, model=»4eJIoBek/ruGPT3smallnujdikifithah», dosample=True, maxlength=350) generator(«Александр Сергеевич Пушкин известен также благодаря своим сказкам, которые включают в себя: «)
Модальности:
Генерация текста
Задача: Генерация текста
Автор: 4eJIoBek
Теги: gguf, gpt2, text-generation-inference, endpoints_compatible
Лайков: 2 | Загрузок: 322
Описание основано на материалах HuggingFace. Перевод выполнен автоматически.
