Darwin-28B-Coder-IQ4_XS12.9GiB-GGUF
> Примечание во время выполнения: этот квант был создан и протестирован с помощью вилки ikllama.cpp от ikawrakow. Он...
Метка: imatrix
Gemma-4-26B-A4B-it-Heretic-Cerebellum-GGUF
GGUF смешанной точности, управляемый чувствительностью, coder3101/gemma-4-26B-A4B-it-heretic, децензурированный вариант google/gemma-4-26B-A4B-it. Он использует распределение тензоров Cerebellum v6, дословно перенесенное на...
MiMO-V2.5-MTP-GGUF
Экспериментальная же сборка GGUF MiMo-V2.5 для tnhnyzc/llama-mimo-mtp, на базе XiaomiMiMo/MiMo-V2.5. Эти GGUF содержат обычную целевую модель MiMo плюс...
gemma-4-26B-A4B-it-MXFP4-GGUF
Настроенное вручную квантование смешанной точности для Gemma-4 26B-A4B. 13,1 ГБ · 4,50 BPW · Wikitext-2 PPL 226,42 ±3,35...
gemma-4-31B-it-nvfp4-GGUF
— Использован текст калибровки из сути Бартовски: https://gist.github.com/bartowski1182/82ae9b520227f57d79ba04add13d0d0d. — В качестве базовой модели использован nvidia/Gemma-4-31B-IT-NVFP4. — В шаблоне...
zai-org_GLM-4.7-GGUF
Все кванты созданы с использованием опции imatrix с набором данных отсюда в сочетании с подмножеством Combinallsmall.parquet от Эда...
Gemma-3-27B-Derestricted-i1-GGUF
взвешенные/иматричные кванты https://huggingface.co/Nabbers1999/Gemma-3-27B-it-NP-Abliterated. Для удобного обзора и списка загрузки посетите нашу страницу модели для этой модели. статические кванты...
MiniMax-M2-GGUF
Мы искренне благодарим разработчиков и участников сообщества открытого исходного кода за предоставление версии BF16 и файла imatrix. Мы...
cerebras_MiniMax-M2-REAP-162B-A10B-GGUF
Исходная модель: https://huggingface.co/cerebras/MiniMax-M2-REAP-162B-A10B Все кванты созданы с использованием опции imatrix с набором данных отсюда в сочетании с подмножеством...
Qwen3-Next-80B-A3B-Thinking-MXFP4_MOE-GGUF
GGUF обновлен. Загрузите последнюю версию llama.cpp, чтобы использовать ее. Модальности:Генерация текста Области применения:Диалог / чат Задача: Генерация текста...