GLM-5.2-ewaste-edition-GGUF
Квантование Imatrix GGUF GLM-5.2 (всего 745B / ~40B активно, glm-dsa Arch, MoE в стиле DeepSeek с 256 маршрутизируемыми...
Метка: ik_llama.cpp
Qwen3.6-27B-MTP-IQ4_KS-GGUF
Это было сделано из Q80, а не напрямую из fp16, из-за этого могла быть потеряна некоторая* точность. Это...
Devstral-2-123B-Instruct-2512-GGUF
ПРИМЕЧАНИЕ. ikllama.cpp` также может запускать существующие GGUF от bartowski, unsloth, mradermacher и т. д., если вы хотите опробовать...
Qwen3.5-35B-A3B-GGUF
ПРИМЕЧАНИЕ. ikllama.cpp также может запускать существующие GGUF от bartowski, unsloth, mradermacher и т. д., если вы хотите опробовать...
DeepSeek-V3.1-Terminus-GGUF
Для этой коллекции квантов ТРЕБУЕТСЯ форк ikllama.cpp для поддержки последних квантов и оптимизаций SOTA ik! Не** загружайте эти...
DeepSeek-R1-0528-DQ4_K_R4
Динамическое квантование DeepSeek-R1-0528 с использованием оптимизированного формата, доступного только на вилке ikllama**, размер которого изменен для работы с...
Qwen3-235B-A22B-Thinking-2507-GGUF
Для этой коллекции квантов ТРЕБУЕТСЯ форк ikllama.cpp для поддержки последних квантов и оптимизаций SOTA ik! Не** загружайте эти...
bitnet-b1.58-2B-4T-GGUF
Версия microsoft/bitnet-b1.58-2B-4T-gguf для IQ2BN и IQ2BNR4 для использования с ikllama.cpp. Я рекомендую версию IQ2BNR4, но вы используете -rtr...
Kimi-K2.5-GGUF
Кванты в этой коллекции ТРЕБУЮТ вилку ikllama.cpp для поддержки последних квантов и оптимизаций SOTA ik! Не загружайте эти...
Qwen3-Coder-30B-A3B-Instruct-GGUF
Для этой коллекции квантов ТРЕБУЕТСЯ форк ikllama.cpp для поддержки последних квантов и оптимизаций SOTA ik! Не** загружайте эти...