加入中文词表并继续预训练中文Embedding,并在此基础上继续使用指令数据集finetuning,得到的中文Alpaca-pro-33B 模型.。模型转换用到的相关base及lora模型如下: — базовая модель: elinas/llama-30b-hf-transformers-4.29 — lora-модель: ziqingyang/chinese-llama-plus-lora-33b, ziqingyang/chinese-alpaca-pro-lora-33b 详情可参考: https://github.com/ymcui/Chinese-LLaMA-Alpaca/releases/tag/v5.0
Модальности:
Генерация текста
Задача: Генерация текста
Автор: minlik
Теги: llama, text-generation-inference, endpoints_compatible
Лайков: 4 | Загрузок: 8
Описание основано на материалах HuggingFace. Перевод выполнен автоматически.