Языковая модель для монголов. Модель имеет параметры 1.3B, как вы можете догадаться из ее названия. Монголы принадлежат к монгольской языковой семье. Это очень исторический язык, на котором говорят около 5,7 миллиона человек. Вот некоторые факты об этом: 1. Это официальный язык Монголии. 2. В Монголии используется кириллица, но традиционная монгольская письменность все еще используется в других регионах. 3. Он имеет богатую историю, связанную с Монгольской империей и такими фигурами, как Чингисхан. Это одна из моделей, полученных из базовой модели mGPT-XL (1.3B) (см. Список ниже), которая первоначально была обучена на 61 языке из 25 языковых семей с использованием Википедии и корпуса C4. Мы нашли дополнительные данные для 23 языков, большинство из которых считаются второстепенными, и решили дополнительно настроить базовую модель. Монгольский mGPT 1.3B был обучен еще для 50000 шагов с batchsize=4 и контекстным окном 2048** токенов на 1 A100. — 🇦🇲 mGPT-1.3B Армянский — 🇦🇿 mGPT-1.3B Азербайджан — 🍯 mGPT-1.3B Башкирский — 🇧🇾 mGPT-1.3B Белорусский — 🇧🇬 mGPT-1.3B Болгарский — 🌞 mGPT-1.3B Бурятский — 🌳 mGPT-1.3B Чувашский — 🇬🇪 mGPT-1.3B Грузинский — 🌸 mGPT-1.3B Калмыцкий — 🇰🇿 mGPT-1.3B Казахский — 🇰🇬 mGPT-1.3B Киргизский — 🐻 mGPT-1.3B Мари — 🐆 mGPT-1.3B…
Модальности:
Генерация текста
Задача: Генерация текста
Автор: ai-forever
Теги: gpt2, gpt3, mgpt, mn, en, ru, text-generation-inference, endpoints_compatible
Лайков: 3 | Загрузок: 85
Описание основано на материалах HuggingFace. Перевод выполнен автоматически.
