OpenCSG означает конвергентные ресурсы, усовершенствование программного обеспечения и генеративный LM. Буква «C» представляет собой конвергентные ресурсы, указывая на интеграцию и полное использование гибридных ресурсов. Буква «S» означает «Улучшение программного обеспечения», обозначая программное обеспечение, усовершенствованное с помощью больших моделей. Буква «G» представляет собой генеративный LM, который обозначает широко распространенные, инклюзивные и демократизированные генеративные большие модели. Цель OpenCSG — предоставить каждой отрасли, каждой компании и каждому человеку возможность владеть своими моделями. Мы придерживаемся принципов открытости и открытого исходного кода, делая большой программный стек OpenCSG доступным для сообщества. Мы приглашаем всех использовать, отправлять отзывы и вносить совместный вклад. csg-wukong-1B — это модель малого языка (SLM) с 1 миллиардом параметров, предварительно обученная на токенах 1T. мы представим дополнительную информацию о csg-wukong-1B. Мы представили csg-wukong-1B в таблице лидеров openllm, и результаты показывают, что наша модель заняла 8-е место среди примерно 1,5 млрд предварительно обученных моделей малых языков. — Оркестрация: Deepspeed — Нейронные сети: PyTorch — BP16, если применимо: apex OpenCSG中 Open是开源开放；C 代表 Converged ресурсы，整合和充分利用的混合异构资源优势，算力降本增效；S 代表 Software…
Модальности:
Генерация текста
Области применения:
Генерация кода
Задача: Генерация текста
Автор: opencsg
Теги: llama, code, en, text-generation-inference, endpoints_compatible
Лайков: 13 | Загрузок: 87
Описание основано на материалах HuggingFace. Перевод выполнен автоматически.
