Метка: autoround - Каталог нейросетей

Метка: autoround

Генерация текста

kaitchup/QwQ-32B-AWQ-4bit

Это Qwen/QwQ-32B, квантованный с помощью AutoAWQ в 4-разрядном режиме. Модель была создана, протестирована и оценена The Kaitchup. Модель...