WizardLM-2-7B-AWQ
MaziyarPanahi/WizardLM-2-7B-AWQ — это квантованная (AWQ) версия microsoft/WizardLM-2-7B. Модальности:Генерация текста Задача: Генерация текста Автор: MaziyarPanahi Теги: mistral, finetuned, quantized,...
Метка: quantized
Copium-Cola-9B-GGUF-IQ-Imatrix
Если они вам понравились, ознакомьтесь с работой GGUF-IQ-Imatrix-Quantization-Script от FantasiaFoundry. Это расшифровывается как «Матрица важности» — метод, используемый...
Prodigy_7B-GGUF-Imatrix
Это расшифровывается как «Матрица важности» — метод, используемый для улучшения качества квантованных моделей. Imatrix рассчитывается на основе данных...
sqlcoder-7b-Mistral-7B-Instruct-v0.2-slerp-GGUF
— Создатель модели: MaziyarPanahi — Исходная модель: MaziyarPanahi/sqlcoder-7b-Mistral-7B-Instruct-v0.2-slerp MaziyarPanahi/sqlcoder-7b-Mistral-7B-Instruct-v0.2-slerp-GGUF содержит файлы моделей формата GGUF для MaziyarPanahi/sqlcoder-7b-Mistral-7B-Instruct-v0.2-slerp. Спасибо TheBloke...
MoMo-72B-lora-1.8.7-DPO-GPTQ
MaziyarPanahi/MoMo-72B-lora-1.8.7-DPO-GPTQ представляет собой квантованную (GPTQ) версию moreh/MoMo-72B-lora-1.8.7-DPO. Модальности:Генерация текста Задача: Генерация текста Автор: MaziyarPanahi Теги: llama, finetuned, quantized,...
LLaMa_V2-13B-Chat-Uncensored-GGML
Модель генерации текста Модальности:Генерация текста Области применения:Диалог / чат Задача: Генерация текста Автор: CONCISE Теги: llama, fp16, quantized,...
Mellum2-12B-A2.5B-Instruct-GGUF-Q4_K_M
Этот репозиторий содержит квантование GGUF Q4KM JetBrains/Mellum2-12B-A2.5B-Instruct, готовое к работе с llama.cpp, Ollama, LM Studio и другими GGUF-совместимыми...
Mellum2-12B-A2.5B-Thinking-GGUF-Q6_K
Этот репозиторий содержит квантование GGUF Q6K JetBrains/Mellum2-12B-A2.5B-Thinking, готовое к работе с llama.cpp`, Ollama, LM Studio и другими GGUF-совместимыми...
OpenYourMind-Gemma4-12B-IT-Abliterated-GGUF
Квантование OpenYourMind/gemma-4-12B-it-abliterated-uncensored сообщества GGUF. Вся заслуга в удалении принадлежит OpenYourMind, которые были первой командой, опубликовавшей удаленную Gemma 4-12B-IT...
Qwen3.6-27B-Text-NVFP4-MTP-GGUF
Квантованная NVFP4 текстовая сборка GGUF Qwen3.6-27B для llama.cpp на NVIDIA DGX Spark (GB10, SM121). Это основная модель кодирования...