DeepSeek-V3.1-Terminus-GGUF
Для этой коллекции квантов ТРЕБУЕТСЯ форк ikllama.cpp для поддержки последних квантов и оптимизаций SOTA ik! Не** загружайте эти...
Метка: ik_llama.cpp
DeepSeek-R1-0528-DQ4_K_R4
Динамическое квантование DeepSeek-R1-0528 с использованием оптимизированного формата, доступного только на вилке ikllama**, размер которого изменен для работы с...
Qwen3-235B-A22B-Thinking-2507-GGUF
Для этой коллекции квантов ТРЕБУЕТСЯ форк ikllama.cpp для поддержки последних квантов и оптимизаций SOTA ik! Не** загружайте эти...
bitnet-b1.58-2B-4T-GGUF
Версия microsoft/bitnet-b1.58-2B-4T-gguf для IQ2BN и IQ2BNR4 для использования с ikllama.cpp. Я рекомендую версию IQ2BNR4, но вы используете -rtr...
Kimi-K2.5-GGUF
Кванты в этой коллекции ТРЕБУЮТ вилку ikllama.cpp для поддержки последних квантов и оптимизаций SOTA ik! Не загружайте эти...
Qwen3-Coder-30B-A3B-Instruct-GGUF
Для этой коллекции квантов ТРЕБУЕТСЯ форк ikllama.cpp для поддержки последних квантов и оптимизаций SOTA ik! Не** загружайте эти...
Qwen3-30B-A3B-Thinking-2507-GGUF
Для этой коллекции квантов ТРЕБУЕТСЯ форк ikllama.cpp для поддержки последних квантов и оптимизаций SOTA ik! Не** загружайте эти...
Ling-1T-GGUF
Для этой коллекции квантов ТРЕБУЕТСЯ форк ikllama.cpp для поддержки последних квантов и оптимизаций SOTA ik! Не** загружайте эти...
gemma-3-27b-it-qat-GGUF
Для этой коллекции квантов ТРЕБУЕТСЯ ответвление ikllama.cpp для поддержки расширенных нелинейных квантов SotA. Не** загружайте эти большие файлы...
GigaChat3-10B-A1.8B-GGUF
Чистый квант Q80 работает как на основной линии, так и на llama.cpp и ikllama.cpp. Другие кванты в этой...