— Зия-LLaMA-13B-v1.1 — Зия-LLaMA-13B-v1 — Зия-LLaMA-7B-Награда — Зия-LLaMA-13B-Pretrain-v1 — Зия-BLIP2-14B-Visual-v1 — Зия-Writing-LLaMa-13B-v1 Версия StarCoderBase версии 15. 5-ти ступенчатая осьминог, 1-й шаг, 3-й шаг, 3-й день, 1-й день, 1-й день рождения, 1-й день Использование NL2SQL, поддержка NL2SQL, поддержка NL2SQL и поддержка NL2SQL.子牙代码大模型V1已完成大规模预训练、有监督微调的训练过程。 Ziya-Coding-15B-v1 — это предобучаемая модель с 15,5 миллиардами параметров, основанная на StarCoderBase. Он может выполнять ряд задач, связанных с кодом, таких как генерация и изменение кода, интерпретация кода, продолжение кода, NL2SQL и т. д. в соответствии с инструкциями. В настоящее время Ziya-Writing-LLaMa-13B-v1 завершил крупномасштабное предварительное обучение (PT) и руководил процессом тонкой настройки (SFT). 由于StarCoderBase 的训练数据基本为代码数据,因此其语言理解能力和指令遵循能力偏弱，特别是使用中文生成代码的场景下还远不可用。为利用它优秀的代码生成能力,并提升模型的中文语言理解能力,我们在自建的预训练语料中精选了中英文和代码共100Btoken的高质量语料,进行继续预训练。 Размер файла: 144, 40 ГБ, A100, 10 ГБ, размер пакета: 2,6 М, FlashAttention, Multi-Query. Внимание: данные обучения для StarCoderBase в основном представляют собой данные кода, его возможности понимания языка и соответствия командам относительно слабы, особенно в сценариях, где Китайский язык используется для генерации кода. Чтобы использовать его превосходный код…
Модальности:
Генерация текста
Задача: Генерация текста
Автор: IDEA-CCNL
Теги: gpt_bigcode, zh, en, text-generation-inference, endpoints_compatible
Лайков: 5 | Загрузок: 10
Описание основано на материалах HuggingFace. Перевод выполнен автоматически.
