Nemotron-Orchestrator-8B-GGUF
— Создатель модели: nvidia — Исходная модель: nvidia/Nemotron-Orchestrator-8B MaziyarPanahi/Nemotron-Orchestrator-8B-GGUF содержит файлы моделей формата GGUF для nvidia/Nemotron-Orchestrator-8B. GGUF —...
Метка: quantized
Qwen3-Omni-30B-A3B-Thinking-INT8FP16
這是 Qwen3-Омни 31,7B в защитном корпусе с защитным кожухом, защитным кожухом量化技術和智能設備管理,讓大型多模態模型在有限硬體資源下也能高效運行。我們解決了原版模型的記憶體瓶頸問題,並提供了生產級別的部署解決方案。 — 🎯 Размер файла: 60 ГБ +...
Qwen3-14B-FP8
Модель NVIDIA Qwen3-14B FP8 — это квантованная версия модели Qwen3-14B от Alibaba, которая представляет собой авторегрессионную языковую модель,...
Qwen3-8B-FP8
Модель NVIDIA Qwen3-8B FP8 — это квантованная версия модели Qwen3-8B от Alibaba, которая представляет собой авторегрессионную языковую модель,...
Nemotron-nano-9b-fp8
Это квантованная FP8 версия nvidia/NVIDIA-Nemotron-Nano-9B-v2, оптимизированная для эффективного вывода со значительным сокращением памяти при сохранении качества модели. —...
GLM-4.5-Air-MP-GGUF
Предупреждение: в llama.cpp b6607 и более поздних версиях изменение внутреннего кода cuda приведет к другим результатам генерации, даже...
AngelSlayer-12B-Unslop-Mell-RPMax-DARKNESS-v2-GGUF
— Создатель модели: redrix — Исходная модель: redrix/AngelSlayer-12B-Unslop-Mell-RPMax-DARKNESS-v2 MaziyarPanahi/AngelSlayer-12B-Unslop-Mell-RPMax-DARKNESS-v2-GGUF содержит файлы моделей формата GGUF для redrix/AngelSlayer-12B-Unslop-Mell-RPMax-DARKNESS-v2. GGUF —...
L3-8B-Sunfall-v0.5-Stheno-v3.2-GGUF
— Создатель модели: Vdr1 — Исходная модель: Vdr1/L3-8B-Sunfall-v0.5-Stheno-v3.2 MaziyarPanahi/L3-8B-Sunfall-v0.5-Stheno-v3.2-GGUF содержит файлы модели формата GGUF для Vdr1/L3-8B-Sunfall-v0.5-Stheno-v3.2. GGUF —...
Llama-3.2-3B-Instruct-uncensored-GGUF
— Создатель модели: chuanli11 — Исходная модель: chuanli11/Llama-3.2-3B-Instruct-uncensored MaziyarPanahi/Llama-3.2-3B-Instruct-uncensored-GGUF содержит файлы модели формата GGUF для chuanli11/Llama-3.2-3B-Instruct-uncensored. GGUF —...
c4ai-command-r-plus-08-2024-IMat-GGUF
Иматричное квантование Llama.cpp CohereForAI/c4ai-command-r-plus-08-2024 Исходная модель: CohereForAI/c4ai-command-r-plus-08-2024 Исходный тип dtype: FP16 (float16) Квантование: llama.cpp b3645 Набор данных IMatrix:...