Языковая модель для калмыцкого языка. Модель имеет параметры 1.3B, как вы можете догадаться из ее названия. Калмык относится к монгольской языковой семье. Это очень редкий язык, на котором говорят около 0,2 миллиона человек. Вот некоторые факты об этом: 1. На нем говорит калмыцкий народ в России, преимущественно в Республике Калмыкия. 2. Калмыкия — единственный регион Европы, где буддизм является наиболее распространенной религией. 3. На калмыцкий язык оказал влияние русский язык. Это одна из моделей, полученных из базовой модели mGPT-XL (1.3B) (см. Список ниже), которая первоначально была обучена на 61 языке из 25 языковых семей с использованием Википедии и корпуса C4. Мы нашли дополнительные данные для 23 языков, большинство из которых считаются второстепенными, и решили дополнительно настроить базовую модель. Калмыцкий mGPT 1.3B был обучен еще на 200 шагов с batchsize=4 и контекстным окном 2048** токенов на 1 A100. — 🇦🇲 mGPT-1.3B Армянский — 🇦🇿 mGPT-1.3B Азербайджан — 🍯 mGPT-1.3B Башкирский — 🇧🇾 mGPT-1.3B Белорусский — 🇧🇬 mGPT-1.3B Болгарский — 🌞 mGPT-1.3B Бурятский — 🌳 mGPT-1.3B Чувашский — 🇬🇪 mGPT-1.3B Грузинский — 🇰🇿 mGPT-1.3B Казахский — 🇰🇬 mGPT-1.3B Киргизский — 🐻 mGPT-1.3B Мари — 🇲🇳 mGPT-1.3B Монгольский — 🐆 mGPT-1.3B Осетинский — 🇮🇷…
Модальности:
Генерация текста
Задача: Генерация текста
Автор: ai-forever
Теги: gpt2, gpt3, mgpt, xal, en, ru, text-generation-inference, endpoints_compatible
Лайков: 3 | Загрузок: 106
Описание основано на материалах HuggingFace. Перевод выполнен автоматически.
