gemma-4-31B-it-abliterated-GGUF
GGUF строится для wangzhang/gemma-4-31B-it-abliterated, конвертированной из версии Safetensors Trial 40. Исходная модель была оптимизирована с помощью Abliterix с...
Метка: quantized
Qwen3.6-35B-A3B-UD-Q4_K_XL-mlx
4-битное базовое квантование смешанной точности Qwen/Qwen3.6-35B-A3B для Apple Silicon с использованием стратегии квантования Unsloth Dynamic через mlx-node. Проведено...
MiniMax-M2.7-JANG_2L-CRACK
> Важно: эта модель использует формат квантования JANG — эквивалент GGUF для MLX в Apple Silicon. В настоящее...
Qwen3.5-40B-RoughHouse-Claude-4.6-Opus-oQ4NearLossless
oQ4e Квантование смешанной точности DavidAU/Qwen3.5-40B-RoughHouse-Claude-4.6-Opus-Polar-Deckard-Uncensored-Heretic-Thinking, квантованное с использованием oMLX oQ — квантование смешанной точности с учетом чувствительности на...
Mistral-Small-4-119B-A6B-JANG_2L
MLX Studio — единственное приложение, которое изначально поддерживает модели JANG с учетом > First Mistral Small 4 (119B)...
Step-3.5-Flash-Ablitirated
Этот репозиторий содержит удаленную версию модели Step-3.5-Flash от StepFun и версию FP16. Step-3.5-Flash — это массивная модель разреженной...
GLM-4.7-Flash-MXFP4
Это квантование MXFP4 zai-org/GLM-4.7-Flash, модели Mixture-of-Experts 30B-A3B (30B всего, 3B активно). Эта модель использует формат MXFP4 (Microscaling FP4)...
Qwen3-235B-A22B-Thinking-2507-NVFP4
Модель NVIDIA Qwen3-235B-A22B-Thinking-2507 NVFP4 представляет собой квантованную версию модели Qwen3-235B-A22B-Thinking-2507 от Alibaba, которая представляет собой авторегрессионную языковую модель,...
Qwen3-4B-Instruct-2507-Unsloth-MagicQuant-Hybrid-GGUF
(УСТАРЕЛО — часть MagicQuant v1.0, имевшая существенные недостатки. Используйте версию 2.0, готовую к производству) > MagicQuant — это...
Qwen2.5-VL-7B-Instruct-FP8
Модель NVIDIA Qwen2.5-VL-7B-Instruct-FP8 представляет собой квантованную версию модели Qwen2.5-VL-7B-Instruct от Alibaba, которая представляет собой авторегрессионную языковую модель, использующую...