ModelCloud/DeepSeek-R1-Distill-Qwen-7B-gptqmodel-4bit-vortex-v1

🚨🚨🚨 Пожалуйста, используйте модель Vortex V2, которая исправила регрессию токена . 🚨🚨🚨 — биты: 4 — динамический: нуль — размер группы: 32 — descact: true — staticgroups: false — sym: true — lmhead: false — truesequential: true — quantmethod: «gptq» — checkpointformat: «gptq» — мета: — квантователь: gptqmodel:1.7.4 — uri: https://github.com/modelcloud/gptqmodel — dumppercent: 0,1 — dumpautoincrement: 0,0025

Модальности:
Генерация текста

Области применения:
Следование инструкциям Диалог / чат Логика и рассуждение

Задача: Генерация текста
Автор: ModelCloud
Теги: qwen2, gptqmodel, modelcloud, chat, qwen, deepseek, instruct, int4
Лайков: 6  |  Загрузок: 5

Открыть на HuggingFace →

Описание основано на материалах HuggingFace. Перевод выполнен автоматически.