Qwen3.8-27B-PrismaAQUA-gridbook-13GB-5080-vllm
A 13 GB download: 12,982,426,694 bytes = 12.98 GB = 12.09 GiB. Weights and codebooks are 12,958,885,485 B...
Метка: mixed-precision
AX-Qwen3.8-27B-MLX-AXQ-4bit-MTP
An AXQuant (AXQ) mixed-precision MLX checkpoint for Apple Silicon, converted directly from the BF16 source model. The language...
NVIDIA-Nemotron-3.5-Lightning-30B-A3B-OptiQ-4bit
> Built with mlx-optiq, the MLX-native toolkit to quantize, fine-tune, and serve LLMs locally on Apple Silicon, no...
gemma-4-26B-A4B-it-qat-OptiQ-4bit
> Built with mlx-optiq, the MLX-native toolkit to quantize, fine-tune, and serve LLMs locally on Apple Silicon, no...
Qwen3.6-35B-A3B-Uncensored-HauhauCS-Aggressive-OptiQ-5bpw-MLX
Source: ericpandev/Qwen3.6-35B-A3B-Uncensored-HauhauCS-Aggressive-bf16 Original: HauhauCS/Qwen3.6-35B-A3B-Uncensored-HauhauCS-Aggressive — This is a text-only MLX export; vision components are omitted. — Native MTP...
gemma-4-e2b-it-OptiQ-4bit
> Built with mlx-optiq, the MLX-native toolkit to quantize, fine-tune, and serve LLMs locally on Apple Silicon, no...
gemma-4-12B-it-GGUF
Четыре контрольные точки GGUF для llama.cpp: от 4,04 ГБ до 12,67 ГБ. Начните с M: 6,72 ГБ и...
MiniCPM5-1B-Claude-Opus-Fable5-V2-Thinking-OptiQ-4bit
> Создан на основе mlx-optiq, собственного набора инструментов MLX для квантования, точной настройки и обслуживания LLM локально на...
Qwen3.6-27B-RAM-16GB-MLX
Сборка MLX смешанной точности Qwen/Qwen3.6-27B, подготовленная baa.ai. В соответствии с нашей внутренней политикой оценки в обоих режимах декодирования...
Qwen3.6-35B-A3B-RAM-25GB-MLX
Сборка MLX смешанной точности Qwen/Qwen3.6-35B-A3B, подготовленная baa.ai. Построено в прогнозируемой глобальной (максимальное качество) рабочей точке. Модальности:Генерация текста Области...