— биты: 4 — динамический: ноль — размер группы: 32 — удаление: true — staticgroups: false — sym: true — lmhead: false — truesequential: true — quantmethod: «gptq» — формат контрольной точки: «gptq» — мета: — квантователь: gptqmodel:1.7.4 — uri: https://github.com/modelcloud/gptqmodel — dumppercent: 0,1 — автоинкремент демпфирования: 0,0025
Модальности:
Генерация текста
Области применения:
Следование инструкциям Диалог / чат Логика и рассуждение
Задача: Генерация текста
Автор: ModelCloud
Теги: qwen2, gptqmodel, modelcloud, chat, qwen, deepseek, instruct, int4
Лайков: 8 | Загрузок: 186
Описание основано на материалах HuggingFace. Перевод выполнен автоматически.