Языковая модель для узбекского языка. Модель имеет 1,3В параметров, как можно догадаться по названию. Узбекский язык принадлежит к тюркской языковой семье. Это очень ритмичный язык, на котором говорят около 32 миллионов человек. Вот несколько фактов об этом: 1. Официальный язык Узбекистана. 2. После обретения Узбекистаном независимости он перешел с кириллицы на латиницу, но кириллица все еще используется старшими поколениями. 3. Исторически он находился под влиянием персидского и арабского языков из-за торговых и исламских научных традиций. Это одна из моделей, созданных на основе базовой модели mGPT-XL (1.3B) (см. список ниже), которая изначально обучалась на 61 языке из 25 языковых семей с использованием Википедии и корпуса C4. Мы нашли дополнительные данные для 23 языков, большинство из которых считаются второстепенными, и решили доработать базовую модель. Узбекский mGPT 1.3B был обучен еще на 50 000 шагов с пакетным размером = 4 и контекстным окном из 2048** токенов на 1 A100. — 🇦🇲 mGPT-1.3B Армянский — 🇦🇿 mGPT-1.3B Азербайджан — 🍯 mGPT-1.3B Башкирский — 🇧🇾 mGPT-1.3B Белорусский — 🇧🇬 mGPT-1.3B Болгарский — 🌞 mGPT-1.3B Бурятский — 🌳 мГПТ-1.3Б Чувашский — 🇬🇪 мГПТ-1.3Б Грузинский — 🌸 мГПТ-1.3Б Калмыцкий — 🇰🇿 мГПТ-1.3Б…
Модальности:
Генерация текста
Задача: Генерация текста
Автор: ai-forever
Теги: gpt2, gpt3, mgpt, uz, en, ru, text-generation-inference, endpoints_compatible
Лайков: 13 | Загрузок: 848
Описание основано на материалах HuggingFace. Перевод выполнен автоматически.
