LingoWhale-8B
LingoWhale-8B — токен для продажи токенов 的高质量中英数据上进行预训练, 具有强大的基础能力,在多个公开评测基准上均达到领先效果。在预训练阶段,模型使用8K的上下文长度进行训练,能够完成更长上下文的理解和生成任务。在开源模型权重的同时,我们也提供了符合用户习惯的Huggingface推理接口以及LoRA 等参数高效微调示例, 便于开发者快速使用LingoWhale-8B.。受模型参数量影响,大模型固有的幻觉问题、数学计算能力相对较弱等问题在LingoWhale-8B模型中仍然存在。请大家在使用前了解这些问题，评估可能存在的风险。后续版本的LingoWhale模型将会针对此类问题进行重点优化。 — C-Eval может быть установлен в коде, 包含了13948个多项选择题,涵盖了52个不同的学科和四个难度级别。它旨在评估中文语言模型的能力。我们使用该数据集的dev集作为fe...