LongCat-Flash-Lite-GGUF
Квантование GGUF meituan-longcat/LongCat-Flash-Lite для использования со специальной вилкой llama.cpp. > Требуется специальная вилка. В этой модели используется новая...
Метка: mla
DeepSeek-V3.1-Terminus-GGUF
Для этой коллекции квантов ТРЕБУЕТСЯ форк ikllama.cpp для поддержки последних квантов и оптимизаций SOTA ik! Не** загружайте эти...
DeepSeek-R1-0528-DQ4_K_R4
Динамическое квантование DeepSeek-R1-0528 с использованием оптимизированного формата, доступного только на вилке ikllama**, размер которого изменен для работы с...
Kimi-K2.5-GGUF
Кванты в этой коллекции ТРЕБУЮТ вилку ikllama.cpp для поддержки последних квантов и оптимизаций SOTA ik! Не загружайте эти...
Youtu-LLM-2B-GGUF
Этот репозиторий содержит файлы моделей формата GGUF для Youtu-LLM-2B от Tencent. Youtu-LLM-2B — это высокоэффективная модель с параметрами...
GigaChat3-10B-A1.8B-GGUF
Чистый квант Q80 работает как на основной линии, так и на llama.cpp и ikllama.cpp. Другие кванты в этой...
EraX-LLaMA3.1-8B-DeepSeekR1-MLA-MoE-Raw
В EraX нами движет любопытство. Мы взяли революционную модель LLaMA 3.1 8B и разработали революционную трансформацию, выборочно интегрируя...
DeepSeek-V3.1-GGUF
Для этой коллекции квантов ТРЕБУЕТСЯ форк ikllama.cpp для поддержки последних квантов и оптимизаций SOTA ik! Не** загружайте эти...
Kimi-K2-Instruct-0905-GGUF
Для этой коллекции квантов ТРЕБУЕТСЯ форк ikllama.cpp для поддержки последних квантов и оптимизаций SOTA ik! Не** загружайте эти...
deepseek-mla
Этот репозиторий предоставляет реализацию PyTorch механизма многоголового скрытого внимания (MLA), представленного в документе DeepSeek-V2. Это не обученная модель,...