Falcon3-10B-Instruct-gptqmodel-4bit-vortex-v1
— bits: 4 — dynamic: null — groupsize: 32 — descact: true — staticgroups: false — sym: true...
Метка: gptqmodel
Llama-3.2-1B-Instruct-gptqmodel-4bit-vortex-v2
— bits: 4 — dynamic: null — groupsize: 32 — descact: true — staticgroups: false — sym: true...
DeepSeek-V4-Flash-0731-GPTQ-Int4-V1
4-bit GPTQ (W4A16) quantization of deepseek-ai/DeepSeek-V4-Flash-0731, produced with GPTQModel. This is the V1 release (first calibration run). A...
LLaDA-8B-Instruct-gptqmodel-4bit
Эта модель была 4-разрядной квантованной моделью Llada-8B-Base с GPTQModel. — bits: 4 — dynamic: null — groupsize: 128...
Meta-Llama-3.1-70B-Instruct-gptq-4bit
— биты: 4 — размер группы: 128 — уменьшение: true — staticgroups: false — sym: true — lmhead:...
Meta-Llama-3.1-8B-Instruct-gptq-4bit
— биты: 4 — размер группы: 128 — descact: true — staticgroups: false — sym: true — lmhead:...
gemma-2-9b-it-gptq-4bit
Эта модель была квантована с использованием GPTQModel. — биты: 4 — размер группы: 128 — descact: false —...
Ornith-1.0-35B-GPTQ-Pro-FOEM-4bit-g128-ns256
Эти модели создаются и обслуживаются на арендованных графических процессорах. Если вы хотите выразить некоторую признательность, подписка на X...
Qwen3.6-27b-gptq-int4
> Квантование GPTQ INT4 Qwen/Qwen3.6-27B. > в 3 раза меньше. ~2,4× быстрее. Однопоточное измерение на том же оборудовании,...
Llama-3.2-1B-Instruct-gptqmodel-4bit-vortex-v2.5
— биты: 4 — динамический: нуль — размер группы: 32 — descact: true — staticgroups: false — sym:...