MiniMax-M2.7-NVFP4
Квантование MiniMaxAI/MiniMax-M2.7 высокого качества NVFP4 для графических процессоров NVIDIA Blackwell. 5000 калибровочных образцов в 5 различных наборах данных....
Метка: quantized
gemma-4-E4B-Gemini-3.1-Pro-Reasoning-Distill-GGUF
Этот репозиторий содержит файлы моделей формата GGUF для gemma-4-E4B-Gemini-3.1-Pro-Reasoning-Distill от Ayodele01. Эти модели были скомпилированы и квантованы с...
NVIDIA-Nemotron-3-Super-120B-A12B-MLX-Q4.5
См. NVIDIA-Nemotron-3-Super-120B-A12B MLX в действии – демонстрационное видео – Одиночный вывод ~49,6 токенов/с при 1000 токенов – Пакетный...
Qwen3-Coder-Next-NVFP4
Модель NVIDIA Qwen3-Coder-Next-NVFP4 представляет собой квантованную версию модели Qwen3-Coder-Next, авторегрессионной языковой модели, которая использует оптимизированную архитектуру Transformer с...
MiniMax-M2.1-NVFP4
Квантованная версия MiniMaxAI/MiniMax-M2.1 NVFP4 для эффективного вывода на графических процессорах NVIDIA Blackwell. — Формат: NVFP4 с двухуровневым масштабированием...
Mistral-7B-Uncensored-GGUF
В этом репозитории представлена модель Mistral-7B-Uncensored — диалоговая система с 7 миллиардами параметров, предназначенная для пользователей, которым требуется...
Qwen3-1.7B-3bit-SINQ
Этот репозиторий содержит официальную 3-битную квантованную версию модели Qwen3-1.7B с использованием метода SINQ (Sinkhorn-Normalized Quantization). SINQ — это...
Qwen3-30B-A3B-quantized.w4a16
— Архитектура модели: Qwen3ForCausalLM — Входные данные: текст — Выходные данные: текст — Оптимизация модели: — Весовое квантование:...
Qwen3-4B-GGUF
MaziyarPanahi/Qwen3-4B-GGUF содержит файлы моделей формата GGUF для Qwen/Qwen3-4B. GGUF — это новый формат, представленный командой llama.cpp 21 августа...
DeepSeek-R1-quantized.w4a16
— Архитектура модели: DeepseekV3ForCausalLM — Входные данные: текст — Выходные данные: текст — Оптимизация модели: — Квантование активации:...