Ling-3.0-flash-GGUF
Кванты включения AI/Ling-3.0-flash, 127,5В-общая/5,1В-активная гибридная МО (bailinghybrid/BailingMoeV3`). Каждый файл здесь содержит только типы тензоров, безопасные для sm120 —...
Метка: mla
DeepSeek-TNG-R1T2-Chimera-GGUF
Для этой коллекции квантов ТРЕБУЕТСЯ форк ikllama.cpp для поддержки последних квантов и оптимизаций SOTA ik! Не** загружайте эти...
LongCat-Flash-Lite-GGUF
Квантование GGUF meituan-longcat/LongCat-Flash-Lite для использования со специальной вилкой llama.cpp. > Требуется специальная вилка. В этой модели используется новая...
DeepSeek-V3.1-Terminus-GGUF
Для этой коллекции квантов ТРЕБУЕТСЯ форк ikllama.cpp для поддержки последних квантов и оптимизаций SOTA ik! Не** загружайте эти...
DeepSeek-R1-0528-DQ4_K_R4
Динамическое квантование DeepSeek-R1-0528 с использованием оптимизированного формата, доступного только на вилке ikllama**, размер которого изменен для работы с...
Kimi-K2.5-GGUF
Кванты в этой коллекции ТРЕБУЮТ вилку ikllama.cpp для поддержки последних квантов и оптимизаций SOTA ik! Не загружайте эти...
Youtu-LLM-2B-GGUF
Этот репозиторий содержит файлы моделей формата GGUF для Youtu-LLM-2B от Tencent. Youtu-LLM-2B — это высокоэффективная модель с параметрами...
GigaChat3-10B-A1.8B-GGUF
Чистый квант Q80 работает как на основной линии, так и на llama.cpp и ikllama.cpp. Другие кванты в этой...
EraX-LLaMA3.1-8B-DeepSeekR1-MLA-MoE-Raw
В EraX нами движет любопытство. Мы взяли революционную модель LLaMA 3.1 8B и разработали революционную трансформацию, выборочно интегрируя...
DeepSeek-V3.1-GGUF
Для этой коллекции квантов ТРЕБУЕТСЯ форк ikllama.cpp для поддержки последних квантов и оптимизаций SOTA ik! Не** загружайте эти...