Метка: llama2 - Каталог нейросетей

Метка: llama2

Генерация текста

RicardoLee/Llama2-chat-13B-Chinese-withCode3W-LoRA

目前坊间一直流传,代码数据训练能极大的提升模型的COT能力。因此,本项目除了处理继续使用BELLE项目中采样的50万SFT数据进行SFT训练以外,还加入了code-review-instruct-critique-revision-python数据集以及部分网上爬取的逻辑推理问答数据。 В качестве базовой модели используется Llama2-chat-13B, а обучение осуществляется с помощью метода LoRA с эмбеддингом и LM...