Языковая модель для украинского языка. Модель имеет 1,3В параметров, как можно догадаться по названию. Украинский язык принадлежит к индоевропейской языковой семье. Это очень мелодичный язык, на котором говорят около 40 миллионов человек. Вот несколько фактов о нем: 1. Один из восточнославянских языков, наряду с русским и белорусским. 2. Это официальный язык Украины, написанный кириллицей. 3. Украинский язык имеет богатую литературную историю, он сохранил яркое культурное присутствие, особенно в поэзии и музыке. Это одна из моделей, созданных на основе базовой модели mGPT-XL (1.3B) (см. список ниже), которая изначально обучалась на 61 языке из 25 языковых семей с использованием Википедии и корпуса C4. Мы нашли дополнительные данные для 23 языков, большинство из которых считаются второстепенными, и решили доработать базовую модель. Украинский mGPT 1.3B был обучен еще на 10000 шагов с пакетным размером=4 и контекстным окном из 2048** токенов на 1 A100. — 🇦🇲 mGPT-1.3B Армянский — 🇦🇿 mGPT-1.3B Азербайджан — 🍯 mGPT-1.3B Башкирский — 🇧🇾 mGPT-1.3B Белорусский — 🇧🇬 mGPT-1.3B Болгарский — 🌞 mGPT-1.3B Бурятский — 🌳 мГПТ-1.3Б Чувашский — 🇬🇪 мГПТ-1.3Б Грузинский — 🌸 мГПТ-1.3Б Калмыцкий — 🇰🇿 мГПТ-1.3Б Казахский -…
Модальности:
Генерация текста
Задача: Генерация текста
Автор: ai-forever
Теги: gpt2, gpt3, mgpt, uk, en, ru, text-generation-inference, endpoints_compatible
Лайков: 4 | Загрузок: 19
Описание основано на материалах HuggingFace. Перевод выполнен автоматически.
