Qwen3.5-397B-A17B-GGUF
This is a 2.54 BPW Qwen 3.5 397B quantization using a recipe inspired by @AesSedai and @ubergarm. My...
Метка: imatrix
SERA-32B-GGUF
These are the GGUF’s of the model allenai/SERA-32B generated with an imatrix created from code_tiny.txt. Модальности:Генерация текста Области...
MiMo-V2-Flash-GGUF
ОБРАТИТЕ ВНИМАНИЕ, что ikllama.cpp также может запускать существующие GGUF от bartowski, unsloth, mradermacher и т. Д., Если вы...
cerebras.MiniMax-M2-REAP-139B-A10B-GGUF
Модель генерации текста Модальности:Генерация текста Области применения:Диалог / чат Задача: Генерация текста Автор: DevQuasar Теги: gguf, endpoints_compatible, imatrix,...
Qwen3-30B-A3B-CoderThinking-YOYO-linear-MXFP4_MOE-GGUF
This is a MXFP4_MOE quantization of the model Qwen3-30B-A3B-CoderThinking-YOYO-linear Original model: https://huggingface.co/YOYO-AI/Qwen3-30B-A3B-CoderThinking-YOYO-linear Модальности:Генерация текста Области применения:Диалог / чат...
Tongyi-DeepResearch-30B-A3B-MXFP4_MOE-GGUF
This is a MXFP4_MOE quantization of the model Tongyi-DeepResearch-30B-A3B Original model: https://huggingface.co/Alibaba-NLP/Tongyi-DeepResearch-30B-A3B Модальности:Генерация текста Области применения:Диалог / чат...
swiss-ai_Apertus-70B-Instruct-2509-GGUF
Original model: https://huggingface.co/swiss-ai/Apertus-70B-Instruct-2509 All quants made using imatrix option with dataset from here combined with a subset of...
YOYO-AI_Qwen3-30B-A3B-Mixture-2507-GGUF
Original model: https://huggingface.co/YOYO-AI/Qwen3-30B-A3B-Mixture-2507 All quants made using imatrix option with dataset from here combined with a subset of...
nvidia_Nemotron-H-47B-Reasoning-128K-GGUF
Original model: https://huggingface.co/nvidia/Nemotron-H-47B-Reasoning-128K All quants made using imatrix option with dataset from here combined with a subset of...
CohereLabs.command-a-reasoning-08-2025-GGUF
Quantized version of: CohereLabs/command-a-reasoning-08-2025 Модальности:Генерация текста Области применения:Диалог / чат Задача: Генерация текста Автор: DevQuasar Теги: gguf, endpoints_compatible,...