Qwen3.6-27B-i1-IQ4_KS_KT-GGUF
I have uploaded what I believe to be the final versions of the quantized models, created with a...
Метка: ik_llama.cpp
MiMo-V2-Flash-GGUF
ОБРАТИТЕ ВНИМАНИЕ, что ikllama.cpp также может запускать существующие GGUF от bartowski, unsloth, mradermacher и т. Д., Если вы...
Qwen3-14B-GGUF
This quant collection REQUIRES ikllama.cpp fork to support advanced non-linear SotA quants. Do not** download these big files...
Laguna-M.1-GGUF
Вышестоящие безопасные датчики BF16 · Блог о выпуске · Технический отчет · Объединенная поддержка ikllama.cpp Это независимая загрузка...
Darwin-28B-Coder-IQ4_XS12.9GiB-GGUF
> Примечание во время выполнения: этот квант был создан и протестирован с помощью вилки ikllama.cpp от ikawrakow. Он...
DeepSeek-TNG-R1T2-Chimera-GGUF
Для этой коллекции квантов ТРЕБУЕТСЯ форк ikllama.cpp для поддержки последних квантов и оптимизаций SOTA ik! Не** загружайте эти...
GLM-5.2-ewaste-edition-GGUF
Квантование Imatrix GGUF GLM-5.2 (всего 745B / ~40B активно, glm-dsa Arch, MoE в стиле DeepSeek с 256 маршрутизируемыми...
Qwen3.6-27B-MTP-IQ4_KS-GGUF
Это было сделано из Q80, а не напрямую из fp16, из-за этого могла быть потеряна некоторая* точность. Это...
Devstral-2-123B-Instruct-2512-GGUF
ПРИМЕЧАНИЕ. ikllama.cpp` также может запускать существующие GGUF от bartowski, unsloth, mradermacher и т. д., если вы хотите опробовать...
Qwen3.5-35B-A3B-GGUF
ПРИМЕЧАНИЕ. ikllama.cpp также может запускать существующие GGUF от bartowski, unsloth, mradermacher и т. д., если вы хотите опробовать...