Qwen3.5-27B-HLWQ-Q5
> [!ВАЖНО] > Уведомление об именовании (10 апреля 2026 г.). Метод «HLWQ», используемый в этой модели, переименовывается в...
Метка: int4
Qwen3.5-35B-A3B-Darwin-Opus-NOESIS-AWQ-INT4
Пользовательское квантование INT4 в стиле AWQ для FINAL-Bench/Darwin-35B-A3B-Opus, преобразованное из Q80 GGUF, оптимизированное для машин с ограниченным объемом...
Qwen3.6-35B-A3B-HLWQ-CT-INT4
> Запустите 35B 256-expert MoE на RTX 3060 (12 ГБ) с экспертной разгрузкой RTX PRO 6000 Blackwell (96...
Kimi-K2-Instruct-quantized.w4a16
— Архитектура модели: смесь экспертов (MoE) — Входные данные: текст/изображение — Выходные данные: текст — Оптимизация модели: —...
Qwen3-32B-quantized.w4a16
— Архитектура модели: Qwen3ForCausalLM — Входные данные: текст — Выходные данные: текст — Оптимизация модели: — Весовое квантование:...
QwQ-32B-gptqmodel-4bit-vortex-v1
— биты: 4 — динамический: нуль — размер группы: 32 — уменьшение: true — staticgroups: false — sym:...
DeepSeek-R1-Distill-Qwen-32B-AWQ
Дистилляция DeepSeek-R1 до Qwen 32B, квантованная с помощью AWQ до wint4. Он подходит для любого графического процессора с...
Meta-Llama-3.1-405B-Instruct-quantized.w4a16
— Архитектура модели: Meta-Llama-3 — Входные данные: текст — Выходные данные: текст — Оптимизация модели: — Весовое квантование:...
Qwen3.6-27B-Claude-Opus-Reasoning-Distill-v2-int4-AutoRound
Квантованная версия Int4 AutoRound TeichAI/Qwen3.6-27B-Claude-Opus-Reasoning-Distill-v2. — Базовая модель: TeichAI/Qwen3.6-27B-Claude-Opus-Reasoning-Distill-v2 — Квантование: симметричное INT4, размер группы = 128 (W4A16)...
DeepSeek-R1-0528-quantized.w4a16
— Архитектура модели: DeepseekV3ForCausalLM — Входные данные: текст — Выходные данные: текст — Оптимизация модели: — Квантование активации:...