Модель GPT-2 прошла обучение с нуля на испанском участке ОСКАР. Модель обучена с использованием Flax и TPU, спонсируемых Google, поскольку это часть недели сообщества Flax/Jax, организованной HuggingFace. Модель, используемая для обучения, — это GPT-2 компании OpenAI, представленная в статье «Языковые модели — многозадачные обучающиеся без присмотра» Алека Рэдфорда, Джеффри Ву, Ревона Чайлда, Дэвида Луана, Дарио Амодеи и Ильи Суцкевера. Испанская часть OSCAR или открытого сверхбольшого сканируемого корпуса ALMANACH, огромного многоязычного корпуса, полученного путем языковой классификации и фильтрации корпуса Common Crawl с использованием архитектуры goclassy. — Мануэль Ромеро (mrm8488) — Мария Грандури (mariagrandury) — Пабло Гонсалес де Прадо (Pablogps) — Даниэль Вера (daveni) — Шри Лакшми (srisweet) — Хосе Посада (jdposa) — Сантьяго Хинкапи (shpotes) — Хорхе (jorgealro)
Модальности:
Генерация текста
Задача: Генерация текста
Автор: flax-community
Теги: jax, tensorboard, gpt2, es, text-generation-inference, endpoints_compatible
Лайков: 28 | Загрузок: 3,198
Описание основано на материалах HuggingFace. Перевод выполнен автоматически.
