— базовая модель: Yi-34B-Chat Yi-34B对话模型 — LoRA: Yi-34B-Spicyboros-3.1-LoRA 非官方对话数据集 — LoRA: limarpv3-yi-llama-34b-lora扮演类长回复 — Шаблон инструкции: ChatML — Это тест для модели exllamav2 — 4.15bpw python Convert.py -i Yi-34b-Chat-Spicyboros-limarpv3 -c exl2/0000.parquet -o Yi-34b-Chat-Spicyboros-limarpv3-4bpw-hb6-exl2 -hb 6 -l 4096 -b 4.15 — конвертировать документ — набор калибровочных данных: WikiText-2-v1
Модальности:
Генерация текста
Области применения:
Диалог / чат
Задача: Генерация текста
Автор: zgce
Теги: llama, conversational, endpoints_compatible
Лайков: 6 | Загрузок: 6
Описание основано на материалах HuggingFace. Перевод выполнен автоматически.
