Ornstein3.6-35B-A3B-SABER-GGUF
GGUF quantizations of DJLougen/Ornstein3.6-35B-A3B-SABER for use with llama.cpp, ollama, LM Studio, and compatible runtimes. Source model is the...
GGUF quantizations of DJLougen/Ornstein3.6-35B-A3B-SABER for use with llama.cpp, ollama, LM Studio, and compatible runtimes. Source model is the...
6-bit base mixed-precision quantization of Qwen/Qwen3.6-35B-A3B for Apple Silicon, using the Unsloth Dynamic quantization strategy via mlx-node. Benchmarked...
3-bit base mixed-precision quantization of Qwen/Qwen3.6-35B-A3B for Apple Silicon, using the Unsloth Dynamic quantization strategy via mlx-node. Benchmarked...
This is an MLX release of an abliterated version of Qwen’s Qwen3.6-35B-A3B. By applying Heretic’s ablation pipeline to...
Уменьшение числа экспертов-специалистов по коду из Qwen3.6-35B-A3B: количество экспертов MoE уменьшено с 256 до 184 (72 удалено на...
NVFP4 (родной Blackwell FP4) ГГУФ Qwen3.6-27B (плотный). Однофайловое квантование на основе FP4, которое выполняется на серверной части LocalAI...
Chadrockv2 Qwen3.6 27B ROCmFP6 STRIX QUALITY — это настроенная AMD версия GGUF линейки Unsloth Qwen3.6 27B MTP. Он...
Этот репозиторий содержит квантованные веса составителя Multi-Token Prediction (MTP), отделенные от Qwen/Qwen3.6-35B-A3B для использования со спекулятивным декодированием mlx-vlm....
Оригинальная модель: AlicanKiraz0/Mihenk-LLM-v2-35B-A3B-Turkish-Financial-Model Alican Kiraz’a, но модели bize kazandırdığı için teşekkür ederim. Чтобы отобразить карту модели, выберите подходящий...
Этот GGUF сочетает в себе интеллектуальное квантование IQ4NL Qwen3.6-27B с головкой MTP (многотокенное предсказание), взятой из сборки unsloth...