Ornith-1.0-35B-UD-Q8_K_XL-mlx
8-bit base mixed-precision quantization of deepreinforce-ai/Ornith-1.0-35B for Apple Silicon, using the Unsloth Dynamic per-tensor bit allocation (without imatrix...
Метка: mlx-node
Qwen3.6-35B-A3B-UD-Q6_K_XL-mlx
6-bit base mixed-precision quantization of Qwen/Qwen3.6-35B-A3B for Apple Silicon, using the Unsloth Dynamic quantization strategy via mlx-node. Benchmarked...
Qwen3.6-35B-A3B-UD-Q3_K_XL-mlx
3-bit base mixed-precision quantization of Qwen/Qwen3.6-35B-A3B for Apple Silicon, using the Unsloth Dynamic quantization strategy via mlx-node. Benchmarked...
Qwen3.5-35B-A3B-UD-Q4_K_XL-mlx
4-битное базовое квантование смешанной точности Qwen/Qwen3.5-35B-A3B для Apple Silicon с использованием стратегии квантования Unsloth Dynamic через mlx-node. Проведено...
Qwen3.6-27B-UD-Q8_K_XL-mlx
8-битное базовое квантование смешанной точности Qwen/Qwen3.6-27B для Apple Silicon с использованием стратегии квантования Unsloth Dynamic через mlx-node. Проведено...
Qwen3.6-35B-A3B-UD-Q8_K_XL-mlx
8-битное базовое квантование смешанной точности Qwen/Qwen3.6-35B-A3B для Apple Silicon с использованием стратегии квантования Unsloth Dynamic через mlx-node. Проведено...
Qwen3.6-35B-A3B-UD-Q2_K_XL-mlx
2-битное базовое квантование смешанной точности Qwen/Qwen3.6-35B-A3B для Apple Silicon с использованием стратегии квантования Unsloth Dynamic через mlx-node. Проведено...
Qwen3.6-27B-UD-Q6_K_XL-mlx
6-битное базовое квантование смешанной точности Qwen/Qwen3.6-27B для Apple Silicon с использованием стратегии квантования Unsloth Dynamic через mlx-node. Проведено...
Qwen3.6-35B-A3B-UD-Q4_K_XL-mlx
4-битное базовое квантование смешанной точности Qwen/Qwen3.6-35B-A3B для Apple Silicon с использованием стратегии квантования Unsloth Dynamic через mlx-node. Проведено...
Qwen3.5-9B-unsloth-mlx
3/4/5/6-битное квантование смешанной точности Qwen/Qwen3.5-9B для Apple Silicon с использованием стратегии квантования Unsloth Dynamic через mlx-node. Декодирование привязано...