Qwen3-Coder-Next-NVFP4
Модель NVIDIA Qwen3-Coder-Next-NVFP4 представляет собой квантованную версию модели Qwen3-Coder-Next, авторегрессионной языковой модели, которая использует оптимизированную архитектуру Transformer с...
Метка: quantized
MiniMax-M2.1-NVFP4
Квантованная версия MiniMaxAI/MiniMax-M2.1 NVFP4 для эффективного вывода на графических процессорах NVIDIA Blackwell. — Формат: NVFP4 с двухуровневым масштабированием...
Mistral-7B-Uncensored-GGUF
В этом репозитории представлена модель Mistral-7B-Uncensored — диалоговая система с 7 миллиардами параметров, предназначенная для пользователей, которым требуется...
Qwen3-1.7B-3bit-SINQ
Этот репозиторий содержит официальную 3-битную квантованную версию модели Qwen3-1.7B с использованием метода SINQ (Sinkhorn-Normalized Quantization). SINQ — это...
Qwen3-30B-A3B-quantized.w4a16
— Архитектура модели: Qwen3ForCausalLM — Входные данные: текст — Выходные данные: текст — Оптимизация модели: — Весовое квантование:...
Qwen3-4B-GGUF
MaziyarPanahi/Qwen3-4B-GGUF содержит файлы моделей формата GGUF для Qwen/Qwen3-4B. GGUF — это новый формат, представленный командой llama.cpp 21 августа...
DeepSeek-R1-quantized.w4a16
— Архитектура модели: DeepseekV3ForCausalLM — Входные данные: текст — Выходные данные: текст — Оптимизация модели: — Квантование активации:...
NuExtract-1.5-smol-GGUF
— Создатель модели: numind — Исходная модель: numind/NuExtract-1.5-smol MaziyarPanahi/NuExtract-1.5-smol-GGUF содержит файлы модели формата GGUF для numind/NuExtract-1.5-smol. GGUF —...
SmolLM-1.7B-Instruct-v0.2-GGUF
— Создатель модели: HuggingFaceTB — Исходная модель: HuggingFaceTB/SmolLM-1.7B-Instruct-v0.2 MaziyarPanahi/SmolLM-1.7B-Instruct-v0.2-GGUF содержит файлы модели формата GGUF для HuggingFaceTB/SmolLM-1.7B-Instruct-v0.2. GGUF —...
RYS-XLarge-GGUF
MaziyarPanahi/RYS-XLarge-GGUF содержит файлы моделей формата GGUF для dnhkng/RYS-XLarge. GGUF — это новый формат, представленный командой llama.cpp 21 августа...