 Это квантованная версия jiangfb/llama-3.1-chinese-8b-it-dpo, созданная с использованием llama.cpp. LLAMA-3.1 будет выпущен в 2024 г., 24 июля, 2024 г., Meta.司迄今为止规模最大、质量最高的开源模型。Meta评估了超150个基准数据集的性能,Llama-3.1系列模型在常识、可操作性、数学、工具使用和多语言翻译等一系列任务中, GPT-4o, Claude 3.5 Сонет и Близнецы Ultra 相媲美。其中LLAMA-3.1-8B-Instruct 模型, 以其庞大的参数规模、强大的上下文理解能力和灵活的指令遵循能力, 在全球范围内赢得了广泛的关注与赞誉。该模型在多种自然语言处理任务上展现出卓越的性能,包括但不限于文本生成、问答系统、文本摘要等,为人工智能领域的研究与应用提供了强大的技术支持。然而,尽管LLAMA-3.1-8B-Instruct模型在多种语言环境下均表现出色,但在中文这一特定语境下，其性能却存在一定的局限性。为了弥补这一不足，本项目旨在通过针对中文语境的深入优化,提升LLAMA 3.1-8B-Инструкция содержит инструкции по эксплуатации.本项目基于llama-3.1-8b-instruct模型,与当前相关工作不同的是,我们采用了指令微调（Инструкция Тонкая настройка）和直接偏好对齐（Прямая оптимизация предпочтений, DPO）二阶段的学习方法，使用近30w条中文数据进行有监督指令微调, 然后应用500 0条对齐指令进行直接偏好对齐,旨在进一步提升模型在中文语境下的理解和生成能力。在两个权威的中文评测基准下, C-Eval提升了83,34%的性能, CMMLU提升了83 0,95 %权重和训练数据集,欢迎大家一起学习和探讨。克隆本项目到本地: https://huggingface.co/jiangfb/llama-3.1-chinese-8b-it-dpo C-Eval是一个全面的中文基础模型评估套件。它包含了大量的多项选择题,涵盖了人文、社科、理工以及其他专业四个大方向，包括52个不同的学科和四个难度级别。…
Модальности:
Генерация текста
Области применения:
Диалог / чат
Задача: Генерация текста
Автор: QuantFactory
Теги: gguf, endpoints_compatible, conversational
Лайков: 10 | Загрузок: 374
Описание основано на материалах HuggingFace. Перевод выполнен автоматически.
