 — Версия 3.0: [模型权重] — 3.0-为一个稀疏混合专家模型,支持32K上下文,具有丰富的中、英文知识和强大的数学推理、代码生成能力。活字3.0旧版活字具有更强的指令遵循能力和安全性。 — 中文MT-Bench: [数据集] — MT-Bench используется для производства MT-Bench, а также для производства оборудования для MT-Bench.对话问题，每一组问题都经过了精心的人工校对, 并为适应中文语境进行了必要的调整。 — 《ChatGPT 调研报告》: [PDF] -哈工大自然语言处理研究所组织多位老师和同学撰写了本调研报告, 从技术原理Вы можете использовать ChatGPT для обмена сообщениями с помощью ChatGPT. — Версия 2.0: [模型权重] [RLHF数据] -在活字1.0基础上，通过人类反馈的强化学习（RLHF）进一步优了模型回复质量, 使其更加符合人类偏好。相较于上一个版本平均长度明显提高,遵从指令的能力更强,逻辑更加清晰。 — 16.9k 人工标注的偏好数据，回复来自活字模型, 可以用于训练奖励模型。 — Версия 1.0: [模型权重] — 在Bloom模型的基础上,在大约 150 жетонов 亿上进行指令微调训练得到的模型,具有更强的指令遵循能力、更好的安全性。大规模语言模型(LLM)在自然语言处理领域取得了显著的进展,并在广泛的应用场景中展现了其强大的潜力。这一技术不仅吸引了学术界的广泛关注,也成为了工业界的热点。在此背景下, 哈尔滨工业大学社会计算与信息检索研究中心(HIT-SCIR) 近期推出了最新成果——活字3.0, 为自然语言处理的研究和实际应用提供更多可能性和选择。活字3.0是基于Chinese-Mixtral-8x7B,在大约30万行指令数据上微调得到的模型。该模型支持32K上下文,能够有效处理长文本。活字3 .0 继承了基座模型丰富的中英文知识,并在数学推理、代码生成等任务上具有强大性能。经过指令微调，活字3.0 还在指令遵循能力和安全性方面实现了显著提升。此外,我们开源了中文MT-Bench数据集。这是一个中文开放问题集，包括80 对话任务, 用于评估模型的多轮对话和指令遵循能力。该数据集是MT-Bench, MT-Bench, 翻译得来的, 每组问题均经过人, 校对和中文语境下的适当调整。我们还对原始MT-Bench中的部分错误答案进行了修正。 > [!ВАЖНО] >活字系列模型仍然可能生成包含事实性错误的误导性回复或包含偏见/歧视的有害内容，请谨慎鉴别和使用生成的内容，请勿将生成的有害内容传播至互联网。…
Модальности:
Генерация текста
Задача: Генерация текста
Автор: HIT-SCIR
Теги: mixtral, text-generation-inference, endpoints_compatible
Лайков: 9 | Загрузок: 72
Описание основано на материалах HuggingFace. Перевод выполнен автоматически.
