ruGPT-Neo 1.3B — это модель-трансформер, разработанная с использованием репликации архитектуры GPT-3 от EleutherAI. ruGPT-Neo относится к классу моделей, а 1.3B представляет собой количество параметров этой конкретной предварительно обученной модели. Эта модель была обучена на вики, сводке газеты, на 38 тысяч шагов, на графическом процессоре 1*v100, все еще тренируется. Он был обучен как замаскированная авторегрессионная языковая модель с использованием перекрестной энтропийной потери. Вы можете использовать эту модель напрямую с конвейером для генерации текста. Этот пример генерирует другую последовательность при каждом запуске:
Модальности:
Генерация текста
Задача: Генерация текста
Автор: AlexWortega
Теги: gpt_neo, ru, endpoints_compatible
Лайков: 9 | Загрузок: 6
Описание основано на материалах HuggingFace. Перевод выполнен автоматически.
