Falcon3-10B-Instruct-gptqmodel-4bit-vortex-v1
— bits: 4 — dynamic: null — groupsize: 32 — descact: true — staticgroups: false — sym: true...
Метка: modelcloud
Llama-3.2-1B-Instruct-gptqmodel-4bit-vortex-v2
— bits: 4 — dynamic: null — groupsize: 32 — descact: true — staticgroups: false — sym: true...
Meta-Llama-3.1-70B-Instruct-gptq-4bit
— биты: 4 — размер группы: 128 — уменьшение: true — staticgroups: false — sym: true — lmhead:...
Meta-Llama-3.1-8B-Instruct-gptq-4bit
— биты: 4 — размер группы: 128 — descact: true — staticgroups: false — sym: true — lmhead:...
Llama-3.2-1B-Instruct-gptqmodel-4bit-vortex-v2.5
— биты: 4 — динамический: нуль — размер группы: 32 — descact: true — staticgroups: false — sym:...
Llama-3.2-3B-Instruct-gptqmodel-4bit-vortex-v3
— биты: 4 — динамический: нуль — размер группы: 32 — descact: true — staticgroups: false — sym:...
Mistral-Nemo-Instruct-2407-gptq-4bit
— биты: 4 — размер группы: 128 — descact: true — staticgroups: false — sym: true — lmhead:...
DeepSeek-R1-Distill-Qwen-7B-gptqmodel-4bit-vortex-v1
🚨🚨🚨 Пожалуйста, используйте модель Vortex V2, которая исправила регрессию токена . 🚨🚨🚨 — биты: 4 — динамический: нуль...
DeepSeek-R1-Distill-Qwen-7B-gptqmodel-4bit-vortex-v2
— биты: 4 — динамический: ноль — размер группы: 32 — удаление: true — staticgroups: false — sym:...
QwQ-32B-gptqmodel-4bit-vortex-v1
— биты: 4 — динамический: нуль — размер группы: 32 — уменьшение: true — staticgroups: false — sym:...