Генерация текста
Производитель Mistral и компания Mixtral-8x7B, производитель оборудования扩词表增量预训练,希望进一步促进中文自然语言处理社区对MoE模型的研究。我们扩充后的词表显著提高了模型对中文的编解码效率,并通过大规模开源语料对扩词表模型进行增量预训练, 使模型具备了强大的中文生成和理解能力。 >请注意,Chinese-Mixtral-8x7B仍然可能生成包含事实性错误的误导性回复或包含偏见/歧视的有害内容,请谨慎鉴别和使用生成的内容,请勿将生成的有害内容传播至互联网。 Китайский-Mixtral-8x7B支持完整的Mixtral-8x7B模型生态,包括使用vLLM、Flash Attention 2 进行加速,使用bitsandbytes进行模型量化等。以下是使用Chinese-Mixtral-8x7B进行推理的代码示例.请注意,Chinese-Mixtral-8x7B为基座模型,没有经过指令微调,因此指令遵循能力有限。您可以参考微调一节对模型进行微调。 — C-Eval: 一个全面的中文基础模型评估套件。它包含了13 948个多项选择题,涵盖了52个不同的学科和四个难度级别。 —...