Метка: kv-cache-quantization

majentik/Qwen3.6-35B-A3B-TurboQuant-MLX-3bit

3-битная версия MLX с квантованием по весу Qwen/Qwen3.6-35B-A3B с квантованием KV-кэша TurboQuant. Оптимизирован для вывода Apple Silicon через...