Kimi-K2-Instruct-0905-HQ4_K
High quality quantization of Kimi-K2-Instruct-0905 without using imatrix. See this detailed guide on how to setup ik_llama and...
Метка: no_imatrix
GLM-4.5-Air-HQ4_K
Высококачественное квантование GLM-4.5-Air без использования imatrix. Смотрите это подробное руководство о том, как настроить ik_llama и как создавать...
Kimi-K2-Instruct-DQ4_K
High quality quantization of Kimi-K2-Instruct without using imatrix. You may be able to run with 512G of RAM...
DeepSeek-R1-0528-DQ4_K_R4
Динамическое квантование DeepSeek-R1-0528 с использованием оптимизированного формата, доступного только на вилке ikllama**, размер которого изменен для работы с...