TheDrummer_Behemoth-R1-123B-v2-GGUF
Original model: https://huggingface.co/TheDrummer/Behemoth-R1-123B-v2 All quants made using imatrix option with dataset from here combined with a subset of...
Метка: imatrix
jimi
Jimi is a LLM fine-tuned variant of Google Deepmind’s gemma-4-E4B-it transformer model, optimized for enhanced contextual comprehension, instruction...
cogito-v2-preview-llama-70B-GGUF
> [!ПРИМЕЧАНИЕ] > Включает исправления шаблонов чата Unsloth! Для llama.cpp используйте —jinja > Unsloth Dynamic 2.0 для достижения...
LGAI-EXAONE_EXAONE-4.0-32B-GGUF
Original model: https://huggingface.co/LGAI-EXAONE/EXAONE-4.0-32B Run them directly with llama.cpp, or any other llama.cpp based project No chat template specified...
ai21labs_AI21-Jamba-Mini-1.7-GGUF
Original model: https://huggingface.co/ai21labs/AI21-Jamba-Mini-1.7 Run them directly with llama.cpp, or any other llama.cpp based project Some of these quants...
GLM-Z1-32B-0414-GGUF
> [!NOTE] > If you are using llama.cpp, use —jinja to enable the system prompt. > Unsloth Dynamic...
Steelskull_L3.3-Shakudo-70b-GGUF
Original model: https://huggingface.co/Steelskull/L3.3-Shakudo-70b Run them directly with llama.cpp, or any other llama.cpp based project Some of these quants...
rednote-hilab_dots.llm1.inst-GGUF
Используя llama.cpp с высвобождением b5669 с моим PR отсюда для квантования. Оригинальная модель: https://huggingface.co/rednote-hilab/dots.llm1.inst Запустите их напрямую с...
Qwen3-30B-A3B-pruned-GGUF
Использование [LLaMA C ][llm] высвобождения [b5580][llm-rel] для квантования. От создателей оригинальной модели: > Qwen3 — это последнее поколение...
L3.3-70B-Magnum-Diamond-GGUF
GGUF квантование Doctor-Shotgun/L3.3-70B-Magnum-Diamond с использованием llama.cpp. Эта модель соответствует формату подсказки Llama 3. Предварительное заполнение является необязательным, но...