Метка: vllm - Страница 15 - Каталог нейросетей

Метка: vllm

Генерация текста

JunHowie/Qwen3-8B-GPTQ-Int4

Эта модель квантуется до 4-бит с размером группы 128. По сравнению с более ранними квантованными версиями, новая квантованная...

Генерация текста

JunHowie/Qwen3-14B-GPTQ-Int4

Эта модель квантуется до 4-бит с размером группы 128. По сравнению с более ранними квантованными версиями, новая квантованная...

Генерация текста

JunHowie/Qwen3-32B-GPTQ-Int8

Эта модель квантуется до 8 бит с размером группы 128. По сравнению с более ранними квантованными версиями, новая...

Генерация текста

JunHowie/Qwen3-32B-GPTQ-Int4

Эта модель квантуется до 4-бит с размером группы 128. По сравнению с более ранними квантованными версиями, новая квантованная...