NVIDIA-Nemotron-Nano-12B-v2-GGUF
— Model creator: nvidia — Original model: nvidia/NVIDIA-Nemotron-Nano-12B-v2 MaziyarPanahi/NVIDIA-Nemotron-Nano-12B-v2-GGUF contains GGUF format model files for nvidia/NVIDIA-Nemotron-Nano-12B-v2. GGUF is...
Метка: 2-bit
Qwen3-30B-A3B-Instruct-2507-GGUF
— Model creator: Qwen — Original model: Qwen/Qwen3-30B-A3B-Instruct-2507 MaziyarPanahi/Qwen3-30B-A3B-Instruct-2507-GGUF contains GGUF format model files for Qwen/Qwen3-30B-A3B-Instruct-2507. GGUF is...
GLM-4.5-Air-2bit
Эта модель mlx-community/GLM-4.5-Air-2bit была преобразована в формат MLX из zai-org/GLM-4.5-Air с использованием mlx-lm версии 0.26.1. Модальности:Генерация текста Области...
QwQ-32B-GGUF
MaziyarPanahi/QwQ-32B-GGUF contains GGUF format model files for Qwen/QwQ-32B. GGUF is a new format introduced by the llama.cpp team...
Captain-Eris_Violet_Toxic-Magnum-12B-GGUF
— Model creator: Nitral-AI — Original model: Nitral-AI/Captain-ErisVioletToxic-Magnum-12B MaziyarPanahi/Captain-ErisVioletToxic-Magnum-12B-GGUF contains GGUF format model files for Nitral-AI/Captain-ErisVioletToxic-Magnum-12B. GGUF is...
Sailor2-1B-Chat-GGUF
— Model creator: sail — Original model: sail/Sailor2-1B-Chat MaziyarPanahi/Sailor2-1B-Chat-GGUF contains GGUF format model files for sail/Sailor2-1B-Chat. GGUF is...
Qwen2.5-72B-Instruct-AutoRound-GPTQ-2bit
Это Qwen/Qwen2.5-72B-Instruct, квантованный с помощью AutoRound (симметричное квантование) и сериализованный в формате GPTQ в 2-бит. Модель была создана,...
SmolLM2-1.7B-Instruct-GGUF
— Model creator: HuggingFaceTB — Original model: HuggingFaceTB/SmolLM2-1.7B-Instruct MaziyarPanahi/SmolLM2-1.7B-Instruct-GGUF contains GGUF format model files for HuggingFaceTB/SmolLM2-1.7B-Instruct. GGUF is...
Mistral-Small-Instruct-2409-GGUF
— Создатель модели: mistralai — Исходная модель: mistralai/Mistral-Small-Instruct-2409 MaziyarPanahi/Mistral-Small-Instruct-2409-GGUF содержит файлы моделей формата GGUF для mistralai/Mistral-Small-Instruct-2409. GGUF —...
reader-lm-0.5b-GGUF
— Создатель модели: jinaai — Исходная модель: jinaai/reader-lm-0.5b arcee-train/reader-lm-0.5b-GGUF содержит файлы модели формата GGUF для jinaai/reader-lm-0.5b. GGUF —...