Qwen-AgentWorld-35B-A3B-oQ4
oQ4 (смешанная точность на основе данных, ≈4,6 бит в секунду) MLX-квантование Qwen/Qwen-AgentWorld-35B-A3B, созданное с помощью quantizeoqstreaming oMLX. Для...
Метка: quantized
Qwythos-9B-Claude-Mythos-5-1M-MTP-SHQ8-GGUF
> Журнал изменений v2 (из исходной версии): метаданные токенизатора нормализованы для среды выполнения Qwen3.5 GGUF; встроенный шаблон чата...
Qwythos-9B-Claude-Mythos-5-1M-SHQ8-GGUF
> Примечание по исходной версии 2: после выполнения этих количественных оценок исходная версия была обновлена до версии 2 с нормализацией...
GLM-5.2-Alis-MLX-Dynamic-3.5bpw
Квантование zai-org/GLM-5.2 смешанной точности Apple Silicon (MLX) — модель смеси экспертов с параметрами 744B (~40B активная) с MLA...
gpt-oss-20b-OptiQ-4bit
> Создан на основе mlx-optiq, собственного набора инструментов MLX для квантования, точной настройки и обслуживания LLM локально на...
gemma-4-31B-it-qat-OptiQ-4bit
> Создан на основе mlx-optiq, собственного набора инструментов MLX для квантования, точной настройки и обслуживания LLM локально на...
LongShu-Qwen3.5-99B-Reap-GameDev-MLX-4bit-FP16
Сверхбольшая мультимодальная модель MoE с 99B общими параметрами / 10B активными, с 205 экспертами и встроенной поддержкой машинного...
gemma-4-e2b-it-qat-OptiQ-4bit
> Создан на основе mlx-optiq, собственного набора инструментов MLX для квантования, точной настройки и обслуживания LLM локально на...
Mellum2-12B-A2.5B-Instruct-GGUF-Q8_0
Этот репозиторий содержит квантование GGUF Q80 JetBrains/Mellum2-12B-A2.5B-Instruct, готовое к работе с llama.cpp`, Ollama, LM Studio и другими GGUF-совместимыми...
Mellum2-12B-A2.5B-Thinking-GGUF-BF16
This repository contains a GGUF BF16 quantization of JetBrains/Mellum2-12B-A2.5B-Thinking, ready to run with llama.cpp, Ollama, LM Studio, and...