Qwen2-7B-Instruct-GGUF
— Создатель модели: Qwen — Исходная модель: Qwen/Qwen2-7B-Instruct MaziyarPanahi/Qwen2-7B-Instruct-GGUF содержит файлы модели формата GGUF для Qwen/Qwen2-7B-Instruct. GGUF —...
Метка: quantized
Saul-Instruct-v1-GGUF
— Создатель модели: Equall. — Исходная модель: Equall/Saul-Instruct-v1. MaziyarPanahi/Saul-Instruct-v1-GGUF содержит файлы модели формата GGUF для Equall/Saul-Instruct-v1. Спасибо TheBloke...
MixTAO-7Bx2-MoE-v8.1-GGUF
— Создатель модели: zhengr — Исходная модель: zhengr/MixTAO-7Bx2-MoE-v8.1 MaziyarPanahi/MixTAO-7Bx2-MoE-v8.1-GGUF содержит файлы модели формата GGUF для zhengr/MixTAO-7Bx2-MoE-v8.1. Спасибо TheBloke...
mistral-7b-v0.1-layla-v4-GGUF-IQ-Imatrix
Если вам это нравится, также ознакомьтесь со сценарием GGUF-Quantization-Script от FantasiaFoundry. Это расшифровывается как «Матрица важности» — метод,...
miqu-1-70b-sf-GPTQ
MaziyarPanahi/miqu-1-70b-sf-GPTQ — это квантованная (GPTQ) версия 152334H/miqu-1-70b-sf. Модальности:Генерация текста Области применения:Диалог / чат Задача: Генерация текста Автор: MaziyarPanahi...
open-calm-7b-8bit
8-битная квантовая версия OpenCALM-7B от CyberAgent (под CC BY-SA 4.0). При использовании этой квантовой модели обязательно указывайте оригинал....
Qwen3.5-9B-GLM5.1-Distill-v1-i1-GGUF
взвешенные/матричные кванты https://huggingface.co/Jackrong/Qwen3.5-9B-GLM5.1-Distill-v1. Для удобного обзора и списка загрузки посетите нашу страницу модели для этой модели. статические кванты...
m51Lab-MiniMax-M2.7-REAP-139B-A10B-GGUF
Квантование GGUF dervig/m51Lab-MiniMax-M2.7-REAP-139B-A10B, первого общедоступного варианта MiniMax-M2.7 с сокращением REAP-40%. — 96 ГБ Apple Silicon (Mac Studio M4...
MiniMax-M2.5-UNCENSORED-JANG_2L
> Важно: в этой модели используется формат квантования JANG — эквивалент GGUF для MLX в Apple Silicon. В...
Qwen3-14B-NVFP4
Модель NVIDIA Qwen3-14B FP4 — это квантованная версия модели Qwen3-14B от Alibaba, которая представляет собой авторегрессионную языковую модель,...