Nemotron-Cascade-2-30B-A3B-JANG_2L-CRACK
> Важно: в этой модели используется формат квантования JANG — эквивалент GGUF для MLX в Apple Silicon. В...
Метка: quantized
Nemotron-3-Super-120B-A12B-MLX-3.6bit
MLX-квантование смешанной точности NVIDIA Nemotron-3-Super-120B-A12B — гибридная архитектура Mamba2 + MoE + Attention. Эта модель обеспечивает производительность класса...
Qwen3.5-122B-A10B-LM-MLX-Q6.5
— Одиночный вывод ~ 46,7 токенов/с при 1000 токенов — Вывод визуального представления: не включен в эту версию...
Qwen3.5-35B-A3B-NVFP4
Модель txn545/Qwen3.5-35B-A3B-NVFP4 представляет собой квантованную версию модели Qwen3.5-35B-A3B от Alibaba, авторегрессионной языковой модели, в которой используется оптимизированная архитектура...
Qwen3-4B-PreSINQ-GGUF
Этот репозиторий содержит официальные версии модели Qwen3-4B, квантованные PreSINQ GGUF. Подробное объяснение стратегии PreSINQ можно найти в официальном...
Elbaz-NVIDIA-Nemotron-3-Nano-30B-A3B-PRISM-NVFP4
Это квантованная версия Ex0bit/Elbaz-NVIDIA-Nemotron-3-Nano-30B-A3B-PRISM NVFP4 (FP4), созданная с использованием оптимизатора моделей NVIDIA TensorRT. Формат NVFP4 оптимизирован для: —...
Qwen3-VL-32B-Instruct-NVFP4
— Архитектура модели: Qwen3VLForConditionalGeneration — Входные данные: текст, изображение — Выходные данные: текст — Оптимизация модели: — Квантование...
GLM-4.6V-Flash-GGUF
— Создатель модели: zai-org — Исходная модель: zai-org/GLM-4.6V-Flash MaziyarPanahi/GLM-4.6V-Flash-GGUF содержит файлы моделей формата GGUF для zai-org/GLM-4.6V-Flash. GGUF —...
Nemotron-Orchestrator-8B-GGUF
— Создатель модели: nvidia — Исходная модель: nvidia/Nemotron-Orchestrator-8B MaziyarPanahi/Nemotron-Orchestrator-8B-GGUF содержит файлы моделей формата GGUF для nvidia/Nemotron-Orchestrator-8B. GGUF —...
Qwen3-Omni-30B-A3B-Thinking-INT8FP16
這是 Qwen3-Омни 31,7B в защитном корпусе с защитным кожухом, защитным кожухом量化技術和智能設備管理,讓大型多模態模型在有限硬體資源下也能高效運行。我們解決了原版模型的記憶體瓶頸問題,並提供了生產級別的部署解決方案。 — 🎯 Размер файла: 60 ГБ +...