Qwen3.6-35B-A3B-TQ-apex3
Data-driven mixed-precision native TurboQuant checkpoint of Qwen/Qwen3.6-35B-A3B. Extends -TQ-apex2 by skipping the shared-expert down-projection — the tensor family...
Метка: turboquant
qwen35-9b-mlx-turboquant-tq3
This repo packages the current best TurboQuant runtime recipe we have measured for mlx-community/Qwen3.5-9B-MLX-4bit: TurboQuant 3-bit KV-cache compression...
ruvltra-medium
— Development: Code assistance and generation — Writing: Content creation and editing — Analysis: Document summarization — Chat:...
DeepSeek-V4-Flash-ConfigI-GGUF
MoE с 284 байтами параметров (активный 21 байт) в 95 ГиБ — подходит и работает на блоках с...
Qwen3.6-27B-ConfigI-MLX
Плотная модель с 27B параметрами и квантованием смешанной точности Config-I. Стандартный формат MLX — работает со стандартными mlxlm...
Qwen3.6-35B-A3B-TurboQuant-MLX-3bit
3-битная версия MLX с квантованием по весу Qwen/Qwen3.6-35B-A3B с квантованием KV-кэша TurboQuant. Оптимизирован для вывода Apple Silicon через...
Qwen3.6-27B-uncensored-abliterated-MTP-i1-IQ4_XS-GGUF-Smaller
♥ Модель с ускоренным выводом MTP, оптимизированная для графических процессоров с видеопамятью 16 ГБ. ♥ Эта модель представляет...
Qwopus3.5-27B-v3-Abliterated-TQ3_4S
TQ34S` — это 3,5-битный весовой формат с преобразованием Уолша-Адамара с четырьмя шкалами по 8 на блок по 32...
Qwen3.6-35B-A3B-ConfigI-MLX
35B-параметр MoE сжат до 15 ГБ с помощью квантования смешанной точности Config-I. Стандартный формат MLX — работает со...
MiniMax-M2.7-ConfigI-MLX
93,5% MMLU при 87 ГБ. Декодирование 61 ток/с. ЗГЗ 4.604. 228B-параметр MoE сжат на 62% с помощью квантования...