mGPT-13B
Многоязычная языковая модель. Эта модель была обучена на 61 языке из 25 языковых семей (см. список ниже). Модель...
Метка: Transformers
rugpt3small_based_on_gpt2
Проектирование архитектуры модели, ее предварительное обучение и оценка описаны в нашем препринте: «Семейство предварительно обученных языковых моделей трансформеров...
rugpt3large_based_on_gpt2
Проектирование архитектуры модели, ее предварительное обучение и оценка описаны в нашем препринте: «Семейство предварительно обученных языковых моделей трансформеров...
mGPT
Мы представляем семейство авторегрессионных GPT-подобных моделей с 1,3 миллиардами параметров, обученных на 61 языке из 25 языковых семей...