— биты: 4 — динамический: нуль — размер группы: 32 — уменьшение: true — staticgroups: false — sym: true — lmhead: false — truesequential: true — quantmethod: «gptq» — формат контрольной точки: «gptq» — мета: — квантователь: gptqmodel:1.4.4 — uri: https://github.com/modelcloud/gptqmodel — dumppercent: 0,1 — автоинкремент дампа: 0,0015
Модальности:
Генерация текста
Области применения:
Следование инструкциям Диалог / чат
Задача: Генерация текста
Автор: ModelCloud
Теги: qwen2, gptqmodel, modelcloud, chat, qwq, instruct, int4, gptq
Лайков: 16 | Загрузок: 9
Описание основано на материалах HuggingFace. Перевод выполнен автоматически.
