Языковая модель для румынского языка. Модель имеет параметры 1.3B, как вы можете догадаться из ее названия. Румынский язык принадлежит к индоевропейской языковой семье. Это очень лирический язык, на котором говорят около 24 миллионов человек. Вот некоторые факты об этом: 1. Это романский язык, тесно связанный с итальянским, французским, испанским, португальским и каталонским. 2. Он сохраняет несколько латинских характеристик, что делает его уникальным среди романских языков. 3. В основном на румынском говорят в Румынии и Молдове, но есть также носители румынского языка в соседних странах и диаспорских общинах по всему миру. Это одна из моделей, полученных из базовой модели mGPT-XL (1.3B) (см. Список ниже), которая первоначально была обучена на 61 языке из 25 языковых семей с использованием Википедии и корпуса C4. Мы нашли дополнительные данные для 23 языков, большинство из которых считаются второстепенными, и решили дополнительно настроить базовую модель. Румынский mGPT 1.3B был обучен еще для 5000 шагов с batchsize=4 и контекстным окном 2048** токенов на 1 A100. — 🇦🇲 mGPT-1.3B Армянский — 🇦🇿 mGPT-1.3B Азербайджан — 🍯 mGPT-1.3B Башкирский — 🇧🇾 mGPT-1.3B Белорусский — 🇧🇬 mGPT-1.3B Болгарский — 🌞 mGPT-1.3B Бурятский — 🌳 mGPT-1.3B Чувашский — 🇬🇪 mGPT-1.3B…
Модальности:
Генерация текста
Задача: Генерация текста
Автор: ai-forever
Теги: gpt2, gpt3, mgpt, ro, en, ru, text-generation-inference, endpoints_compatible
Лайков: 3 | Загрузок: 86
Описание основано на материалах HuggingFace. Перевод выполнен автоматически.
