sqlcoder-7b-2-GGUF
— Создатель модели: defog. — Исходная модель: defog/sqlcoder-7b-2. MaziyarPanahi/sqlcoder-7b-2-GGUF содержит файлы модели формата GGUF для defog/sqlcoder-7b-2. Спасибо TheBloke...
Метка: quantized
TinyLlama-1.1B-Chat-v0.6-GGUF
Квантованные файлы модели GGUF для TinyLlama-1.1B-Chat-v0.6 от TinyLlama Целью проекта TinyLlama является предварительное обучение модели 1.1B Llama на...
Qwen3.6-27B-PRISM-PRO-DQ
llama.cpp — собственное квантование GGUF Qwen3.6-27B-PRISM-PRO с использованием рецепта динамического квантования (DQ) проекта PRISM. ~13,7 ГБ (против 55...
MiniMax-M2.7-NVFP4-GB10-AC
Рекалибровка Agentic + Coder MiniMax-M2.7 NVFP4-GB10. Та же архитектура и схема квантования, что и у saricles/MiniMax-M2.7-NVFP4-GB10, но откалиброваны...
Qwen3.6-35B-A3B-HLWQ-CT-INT4
> Запустите 35B 256-expert MoE на RTX 3060 (12 ГБ) с экспертной разгрузкой RTX PRO 6000 Blackwell (96...
gemma-4-31B-Claude-4.6-Opus-Reasoning-Distilled-GGUF
Этот репозиторий содержит файлы моделей формата GGUF для EganAI/gemma-4-31B-Claude-4.6-Opus-Reasoning-Distilled. Базовая архитектура: Gemma 4 (31B параметров). Фокус обучения: Полная...
Qwen3.5-9B-unsloth-mlx
3/4/5/6-битное квантование смешанной точности Qwen/Qwen3.5-9B для Apple Silicon с использованием стратегии квантования Unsloth Dynamic через mlx-node. Декодирование привязано...
Qwen3-Coder-480B-A35B-Instruct-NVFP4
Модель NVIDIA Qwen3-Coder-480B-A35B-Instruct NVFP4 представляет собой квантованную версию модели Qwen3-Coder-480B-A35B-Instruct от Alibaba, которая представляет собой авторегрессионную языковую модель,...
Qwen3-30B-A3B-Instruct-2507-FP4
Мы представляем обновленную версию режима без мышления Qwen3-30B-A3B под названием Qwen3-30B-A3B-Instruct-2507, включающую следующие ключевые улучшения: — Значительные улучшения...
Qwen3-235B-A22B-Eagle3
Модель NVIDIA Qwen3-235B-A22B Eagle является главой Eagle модели Qwen3-235B-A22B от Alibaba, которая представляет собой авторегрессионную языковую модель, использующую...