K2-Horizon-7B-GGUF
GGUF quantizations of IFM/K2-Horizon-7B, made directly from the publisher’s BF16 GGUF rather than from the FP8 checkpoint. Q6K...
GGUF quantizations of IFM/K2-Horizon-7B, made directly from the publisher’s BF16 GGUF rather than from the FP8 checkpoint. Q6K...
This is the Q4KM quantization (~2.4 GB) of CogEvol-4B, built with llama.cpp. It runs a full learning-environment generation...
Квантование сообщества графических процессоров Qwen3.8-Flash-Next с таргетингом 2×64 ГБ с таблицей вложений n-грамм/PLE с параметром 51B, обслуживаемой из...
Квантование сообщества EXL3 ornith-ai/Ornith-1.5-35B-A3B. Не официальный релиз Орнит. Большинство квантов EXL3 в моделях MoE используют переключатель -hq, который...
Сообщество NVIDIA ModelOpt NVFP4 Z.ai GLM-5.3-Flash с использованием ОДНОЙ DGX Spark. Экспертами по слоям 3–44 являются NVFP4. MTP...
> Созданный с помощью mlx-optiq, набор инструментов MLX-native для квантования, точной настройки и обслуживания LLM локально на Apple...
GGUF build of Qwen/Qwen3.8-27B, capability-validated by baa.ai for faithful, retrieval-grounded reading — a full 27B reader that runs...
Uncensored Qwen3.8-27B, published as GGUF quantizations with the multi-token prediction (MTP) head retained and verified. Refusal behaviour has...
An exl3 quantization of DeepSeek-V4-Flash-0731 in which every routed expert carries its own bit-width. 11,008 experts are individually...
GGUF quantizations of a LoRA fine-tune of empero-ai/Qwen3.8-9B, supervised fine-tuned on ermiaazarkhalili/Fable-5-Glint-Clean (private). Quantized from ermiaazarkhalili/Qwen3.8-9B-SFT-Fable5-Glint. See that...