shibing624/chinese-llama-plus-13b-hf - Каталог нейросетей
Генерация текста

shibing624/chinese-llama-plus-13b-hf

Добавлено:

-相比基础版进一步扩充了训练数据, 其中LLaMA扩充至120G文本,альпака扩充至4,3M 令数据, 重点增加了科学领域数据,涵盖:物理、化学、生物、医学、地球科学等- Альпака 训练时采用了更大的ранг, 相比基础版具有更低的验证集损失 — Альпака: 13B, 74,3, Plus-7B, 78,2, Plus-13B, 80,8,, 具体, 74,3, Plus-7B, 78,2, Plus-13B, 80,8, 具, 74,3, Plus-7B, 78,2, Plus-13B, 80,8, , ,多轮回复长度相比旧模型提升明显(可适当增大温度系数) -知识问答、写作、翻译等方面效果显著提升 本模型是 decapoda-research/llama-13b-hf 底座模型 合并Цзыцинъян/китайская-лама-плюс-лора-13b LoRA权重,并转化为HuggingFace版本权重(.bin文件),可以在此中文LLa MA 型上继续指令微调训练, LLaMA模型为底座模型, 直接调用会效果不佳. — chinese-llama-plus-7b 模型权重链接: https://huggingface.co/minlik/chinese-llama-plus-7b-merged — chinese-alpaca-plus-7b模型权重链接: https://huggingface.co/shibing624/chinese-alpaca-plus-7b-hf — chinese-llama-plus-13b 模型权重链接: https://huggingface.co/shibing624/chinese-llama-plus-13b-hf — chinese-aplaca-plus-13b 模型权重链接: https://huggingface.co/shibing624/chinese-alpaca-plus-13b-hf Сначала вы передаете свои входные данные через модель преобразователя, а затем получаете сгенерированное предложение. 基于 多LoRA权重合并(适用于Chinese-Alpaca-Plus )方法手动合并而成,具体是使用 decapoda-research/llama-13b-hf底座模型 合并 ziqingyang/chinese-llama-plus-lora-13b LoRA权重 得到,并转化为HuggingFace版本权重(.bin文件)。 HuggingFace版本权重(.bin文件)可用于: — 使用Transformers进行训练和推理 — 使用text-generation-webui搭建界面PyTorch版本权重(.pth文件)链接:shibing624/chinese-alpaca-plus-13b-pth 1.…

Модальности:
Генерация текста


Задача: Генерация текста
Автор: shibing624
Теги: llama, chatglm, zh, Text2Text-Generation, LLaMA, text-generation-inference, endpoints_compatible
Лайков: 19  |  Загрузок: 1,350

Открыть на HuggingFace →

Описание основано на материалах HuggingFace. Перевод выполнен автоматически.