Kimi-K2-Instruct-GGUF
Для этой коллекции квантов ТРЕБУЕТСЯ форк ikllama.cpp для поддержки последних квантов и оптимизаций SOTA ik! Не** загружайте эти...
Метка: mla
DeepSeek-V3-0324-GGUF
Для этой коллекции квантов ТРЕБУЕТСЯ разветвление ikllama.cpp для поддержки расширенных нелинейных квантов SotA и многоголового скрытого внимания (MLA)....
DeepSeek-R1-0528-GGUF
Для этой коллекции квантов ТРЕБУЕТСЯ разветвление ikllama.cpp для поддержки расширенных нелинейных квантов SotA и многоголового скрытого внимания (MLA)....