Метка: vllm - Страница 12 - Каталог нейросетей

Метка: vllm

Генерация текста

lowbitcoffee/GLM-5.2-W4A16

Массы квантуют до INT4 (размер группы 128); активации выполняют в BF16. Результатом является контрольная точка объемом 388 ГБ...

Генерация текста

melcheikh/gemma-4-31B-it-qat-NVFP4-Blackwell

Этот репозиторий содержит настраиваемую по инструкциям модель Gemma 4 31B, квантованную с нативной точностью FP4 (NVFP4) для высокоэффективного...

Генерация текста

ucbye/Qwen3-Coder-Next-NVFP4-GB10

Весовые коэффициенты идентичны байтам вышестоящего количества (проверено config.json и model.safetensors.index.json SHA-256). Это зеркало существует для обеспечения закрепленной, стабильной,...