AlpachinoNLP/Baichuan-7B-Instruction - Каталог нейросетей
Генерация текста

AlpachinoNLP/Baichuan-7B-Instruction

Добавлено:

Baichuan-7B-Instruction 为 Baichuan-7B 系列模型进行指令微调后的版本,预训练模型可见 Baichuan-7B。 Baichuan-7B 支持 int8 和 int4 量化,用户只需在推理代码中简单修改两行即可实现。请注意,如果是为了节省显存而进行量化,应加载原始精度模型到 CPU 后再开始量化;避免在 frompretrained 时添加 devicemap=’auto’ 或者其它会导致把原始精度模型直接加载到 GPU 的行为的参数。 数据集:https://huggingface.co/datasets/shareAI/ShareGPT-Chinese-English-90k。 > 说明:CMMLU 是一个综合性的中文评估基准,专门用于评估语言模型在中文语境下的知识和推理能力。我们直接使用其官方的评测脚本对模型进行评测。Model zero-shot 表格中 Baichuan-13B-Chat 的得分来自我们直接运行 CMMLU 官方的评测脚本得到,其他模型的的得分来自于 CMMLU 官方的评测结果.

Модальности:
Генерация текста

Области применения:
Следование инструкциям


Задача: Генерация текста
Автор: AlpachinoNLP
Теги: baichuan, custom_code, zh, en, text-generation-inference, endpoints_compatible
Лайков: 2  |  Загрузок: 148

Открыть на HuggingFace →

Описание основано на материалах HuggingFace. Перевод выполнен автоматически.