ModelCloud/Llama-3.2-3B-Instruct-gptqmodel-4bit-vortex-v3

— биты: 4 — динамический: нуль — размер группы: 32 — descact: true — staticgroups: false — sym: true — lmhead: false — truesequential: true — quantmethod: «gptq» — checkpointformat: «gptq» — мета: — квантователь: gptqmodel:1.1.0 — uri: https://github.com/modelcloud/gptqmodel — dumppercent: 0,1 — автоинкремент дампа: 0,0015

Модальности:
Генерация текста

Области применения:
Следование инструкциям Диалог / чат

Задача: Генерация текста
Автор: ModelCloud
Теги: llama, gptqmodel, modelcloud, llama3.2, instruct, int4, conversational, en
Лайков: 5  |  Загрузок: 190

Открыть на HuggingFace →

Описание основано на материалах HuggingFace. Перевод выполнен автоматически.