ModelCloud/Mistral-Nemo-Instruct-2407-gptq-4bit

— биты: 4 — размер группы: 128 — descact: true — staticgroups: false — sym: true — lmhead: false — dumppercent: 0.01 — truesequential: true — modelnameorpath: «» — modelfilebasename: «model» — quantmethod: «gptq» — checkpointformat: «gptq» — мета: — квантователь: «gptqmodel:0.9.9-dev0»

Модальности:
Генерация текста

Области применения:
Диалог / чат Следование инструкциям

Задача: Генерация текста
Автор: ModelCloud
Теги: mistral, mistral-nemo, gptq, 4bit, int4, gptqmodel, modelcloud, conversational
Лайков: 5  |  Загрузок: 255

Открыть на HuggingFace →

Описание основано на материалах HuggingFace. Перевод выполнен автоматически.