The following bitsandbytes quantization config was used during training: — loadin8bit: False — loadin4bit: True — llmint8threshold: 6.0 — llmint8skipmodules: None — llmint8enablefp32cpuoffload: False — llmint8hasfp16weight: False — bnb4bitquanttype: nf4 — bnb4bitusedoublequant: False — bnb4bitcomputedtype: float16
Модальности:
Генерация текста
Задача: Генерация текста
Автор: lapki
Теги: peft, llama, llama-2, news, ru
Лайков: 2 | Загрузок: 16
Описание основано на материалах HuggingFace. Перевод выполнен автоматически.