SkyText — это предварительно обученная большая модель китайского GPT3, выпущенная Singularity-AI, которая может выполнять различные задачи, такие как общение в чате, вопросы и ответы, а также перевод с китайского на английский. SkyText — это проект с открытым исходным кодом китайской модели предварительного обучения GPT3. Техническое преимущество 1: очистка данных более чем 30 процессов. С развитием технологии НЛП предварительное обучение больших моделей постепенно стало одной из основных технологий искусственного интеллекта. Предварительное обучение больших моделей обычно требует большого объема текста для обучения, и сетевой текст, естественно, становится наиболее важным источником корпуса. Качество обучающего корпуса, несомненно, напрямую влияет на эффект модели. Чтобы обучить модель с выдающимися возможностями, Singularity-AI использовала более 30 процессов очистки данных. Совершенство в деталях, отличный модельный эффект. Техническое преимущество 2: оптимизированный и инновационный метод китайского кодирования для китайского языка. В области предварительного обучения больших моделей всегда доминировало английское сообщество, и важность предварительного обучения больших моделей на китайском языке очевидна. В отличие от английского, китайский метод ввода (текст пиньинь) китайского…
Модальности:
Генерация текста
Задача: Генерация текста
Автор: SkyworkAIGC
Теги: gpt2, text-generation-inference, endpoints_compatible
Лайков: 23 | Загрузок: 27
Описание основано на материалах HuggingFace. Перевод выполнен автоматически.
