BananaMind-KV1-8M-2Bit-Experimental
BananaMind-KV1-8M-2Bit-Experimental is a Hugging Face Transformers causal language model repository for the first Project KV1 checkpoint. This is...
Метка: kv-cache-quantization
Qwen3.6-35B-A3B-RotorQuant-MLX-4bit
> [!TIP] > Квантование KV-кэша без какого-либо разветвления (рекомендуется, 2026 г.): восходящий поток > llama.cpp/Ollama теперь покрывает это...
Qwen3.6-35B-A3B-TurboQuant-MLX-3bit
3-битная версия MLX с квантованием по весу Qwen/Qwen3.6-35B-A3B с квантованием KV-кэша TurboQuant. Оптимизирован для вывода Apple Silicon через...