Qwen3.6-35B-A3B-TurboQuant-MLX-MXFP4
TurboQuant + MLX-MXFP4 (4-bit) variant of Qwen/Qwen3.6-35B-A3B. Apple Silicon (M1/M2/M3/M4) with TurboQuant structural pre-conditioning and MLX-native MXFP4 layout...
Метка: qwen-3.6
Qwen3.6-35B-A3B-RotorQuant-MLX-4bit
> [!TIP] > Квантование KV-кэша без какого-либо разветвления (рекомендуется, 2026 г.): восходящий поток > llama.cpp/Ollama теперь покрывает это...
Qwen3.6-35B-A3B-TurboQuant-MLX-3bit
3-битная версия MLX с квантованием по весу Qwen/Qwen3.6-35B-A3B с квантованием KV-кэша TurboQuant. Оптимизирован для вывода Apple Silicon через...