DistilGPT2 (сокращение от Distilled-GPT2) — это англоязычная модель, предварительно обученная под контролем самой маленькой версии Generative Pre-trained Transformer 2 (GPT-2). Как и GPT-2, DistilGPT2 можно использовать для генерации текста. Пользователям этой модели карты также следует принять во внимание информацию о конструкции, обучении и ограничениях GPT-2. — Разработчик: Hugging Face — Тип модели: Языковая модель на основе трансформатора — Язык: английский — Лицензия: Apache 2.0 — Описание модели: DistilGPT2 — это англоязычная модель, предварительно обученная под контролем версии GPT-2 со 124 миллионами параметров. DistilGPT2, имеющий 82 миллиона параметров, был разработан с использованием анализа знаний и задумывался как более быстрая и легкая версия GPT-2. — Ресурсы для получения дополнительной информации: см. этот репозиторий для получения дополнительной информации о Distil* (классе сжатых моделей, включая Distilled-GPT2), Sanh et al. (2019) для получения дополнительной информации об обобщении знаний и процедуре обучения, а также на этой странице для получения дополнительной информации о GPT-2. ПРЕДУПРЕЖДЕНИЕ О СОДЕРЖАНИИ: читатели должны знать, что этот раздел содержит тревожный, оскорбительный контент, который может пропагандировать исторические и текущие стереотипы. Как утверждают разработчики ГПТ-2…
Модальности:
Генерация текста
Языки программирования:
Rust
Задача: Генерация текста
Автор: distilbert
Теги: tf, jax, tflite, rust, coreml, gpt2, exbert, en
Лайков: 612 | Загрузок: 1,985,882
Описание основано на материалах HuggingFace. Перевод выполнен автоматически.
