Laguna-S-2.1-OptiQ-2bit
> Созданный с помощью mlx-optiq, набор инструментов MLX-native для квантования, точной настройки и обслуживания LLM локально на Apple...
> Созданный с помощью mlx-optiq, набор инструментов MLX-native для квантования, точной настройки и обслуживания LLM локально на Apple...
> Созданный с помощью mlx-optiq, набор инструментов MLX-native для квантования, точной настройки и обслуживания LLM локально на Apple...
> Built with mlx-optiq, the MLX-native toolkit to quantize, fine-tune, and serve LLMs locally on Apple Silicon, no...
Four GGUF checkpoints for llama.cpp, from 3.21 GB to 9.53 GB. Start with M: 5.06 GB and ≈100%...
Four GGUF checkpoints for llama.cpp, from 2.91 GB to 8.02 GB. Start with S: 3.76 GB and ≈100%...
4-битный квант MLX смешанной точности, созданный с помощью mlx-optiq — инструментария квантования с учетом чувствительности для Apple Silicon....
JANGTQ (JANG TurboQuant) квантование zai-org/GLM-5.2 для MLX на кремнии Apple. TurboQuant применяет вращение Адамара со случайным знаком, норму...
JANGTQ (JANG TurboQuant) квантование zai-org/GLM-5.2 (744B-параметр glmmoedsa MoE) для MLX на кремнии Apple. TurboQuant применяет вращение Адамара со...
> TL;DR: 12,63 ГБ MLX-квант Qwen3,6-35B-A3B. На 16,8% меньше, чем у населения > TurboQuant-3bit MLX-квант при статистически связанной...
Sensitivity-guided mixed-precision quantization of coder3101/gemma-4-E4B-it-heretic, which is itself a decensored variant of google/gemma-4-E4B-it produced by coder3101 using Heretic...