llama-3-8b-instruct-262k-chinese-lora
llama-3-8b-instruct-262k-китайская基于Llama-3-8B-Instruct-262k,使用ORPO方法,在中英文偏好数据集shibing624/DPO-En-Zh-20k-Preference 上微调得到的对话模型。 模型的部署、训练等方法详见MedicalGPT的GitHub仓库:https://github.com/shibing624/MedicalGPT — 完整模型权重:https://huggingface.co/shibing624/llama-3-8b-instruct-262k-chinese — lora权重: 模型优势https://huggingface.co/shibing624/llama-3-8b-instruct-262k-chinese-lora : 1. длина 支持超长контекста 262k токен,适合RAG 2. 支持中英文 3. 支持多轮对话代码编码、推理能力强,英文知识充分...