Gemma-4-12B-IT-NVFP4-GGUF
NVFP4 GGUF quantizations of google/gemma-4-12B-it, for use with llama.cpp. The dense FFN tensors (all 48 layers × 3...
Метка: llama-cpp
Mellum2-12B-A2.5B-Instruct-GGUF
Text generation model Модальности:Генерация текста Области применения:Следование инструкциям Диалог / чат Задача: Генерация текста Автор: CodeFault Теги: gguf,...
Mellum2-12B-A2.5B-Thinking-GGUF
Text generation model Модальности:Генерация текста Области применения:Диалог / чат Задача: Генерация текста Автор: JSchneemann Теги: gguf, llama.cpp, mellum,...
nanoBeard-frigate-360M-GGUF
GGUF quantizations of a nanoBeard Frigate pirate chat model (358.3M params), for on-device inference with llama.cpp and the...
ReAligned-Qwen3.5-27B-GGUF
Blog: https://lazarusaie.com/blog/introducing-realigned-open-source-frontier-models-without-the-propaganda Original model: https://huggingface.co/Lazarus-Ai/ReAligned-Qwen3.5-27B ReAligned-Qwen3.5 is a family of Qwen3.5-based language models realigned to reduce China-state ideological...
Qwen3.6-35B-A3B-Hi-Fi-GGUF
> Same size as a standard Q4KM. Measurably closer to the Q8 teacher across every measured lane (code/math,...
TraceAlchemy-Gemma-4-E4B-Finance-IT-gguf
TraceAlchemy-Gemma-4-E4B-Finance-IT is a finance-focused instruction-tuned Gemma 4 E4B model trained to improve careful financial reasoning, financial table understanding,...
resep-ID-gemma-4-E2B-it-gguf
GGUF quantization of junwatu/resep-ID-gemma-4-E2B-it, a fine-tune of google/gemma-4-e2b-it for Indonesian recipe generation. This is the portable, runs-on-your-laptop version....
Mistral-Medium-3.5-128B-Q4_K_M-GGUF
Исправление ошибки конфигурации: недавно была обнаружена и исправлена ошибка в конфигурации Transformers оригинальной модели, которая распространилась до первоначального...
Qwen3.5-2B-Turkish-SFT
Qwen3.5-2B базовая модель üzerine Türkçe, следующая инструкциям verisiyle, тонкая настройка edilmiş bir dil modelidir. AlicanKiraz0/Turkish-SFT-Dataset-v1.0 — genel amaçlı...