本模型采用了微软 Фи-2 的模型架构设计,但未采用 Фи-2的预训练权重,而是完全从头开始预训练,训练数据基于中国网络空间安全协会人工智能安全治理专业委员会发布的“中文基础语料库”。该“中文基础语料库”首批数据120G, 120G, 1 шт., 500 шт. токен。本模型采用20:1作为语料与模型参数量的比例,选择了27,8亿参数量的 Phi-2 Фи-2. Песня «Учебники — это все, что вам нужно»的启发，根据微软的公开信息，经过教科书文本训练的Phi-2模型所展现出的卓越的推理和语言理解能力,在130亿参数的基座模型中达到SOTA水平。本模型目前仍在持续训练过程中,未来还计划加入数学和编程代码的训练内容,以进一步提升其性能和Тестовый тест CMMLU, C-Eval, Humaneval, GS8K, BBH等。 30 дней в году, когда вы находитесь в городе, где вы живете.却能达到130亿参数模型性能水平的中文基座模型，为社区提供一个安全可信的、高性参比（性能-参数比）的、从头开始预训练的中文基座模型。本模型的适用场景包括企业私模型部署、移动端应用、物联网（IoT）设备以及医疗器械的模型集成等。 * P привет-2, 原始, 可能会沿着提示的消极内容生成相应的输出,或者输出无法理解的文字。 * Сянсинь-3Б旨在用于文本生成目的。模型生成的文本应当被视为潜在用例的起点，而非最终解决方案。用户在将这些模型应用于其应用程序时应保持谨慎。 * 直接将模型用于生产任务而不进行评估,超出了本项目的范围。因此,Сянсинь-3B模型尚未经过测试,以确保其对任何生产级应用的性能都是充分的。请参阅本文档的局限性部分以获取更多详情。 Трансформаторы Пример: pip uninstall -y Transformers && pip install git+https://github.com/huggingface/transformers。上述命令是克隆并从源安装的替代方法。 *生成不准确的代码和事实:模型可能会产生错误的代码片段和声明。用户应将这些输出视为建议或起点, 而非最终或准确的解决方案。 *语言限制:本模型主要设计用于理解标准中文。非正式中文、俚语或其他语言可能会对其理解构成挑战, 导致潜在的误解或回应错误。 *…
Модальности:
Генерация текста
Области применения:
Генерация кода
Задача: Генерация текста
Автор: xiangxinai
Теги: phi, code, nlp, custom_code, zh, en, text-generation-inference, endpoints_compatible
Лайков: 5 | Загрузок: 0
Описание основано на материалах HuggingFace. Перевод выполнен автоматически.
