GLM-4.5-GPTQ-Int4-Int8Mix
👋 Присоединяйтесь к нашему сообществу Discord. 📖 Посетите технический блог GLM-4.5. 📍 Используйте сервисы API GLM-4.5 на платформе...
Метка: Int4-Int8Mix
DeepSeek-R1-0528-GPTQ-Int4-Int8Mix-Compact
Этот репозиторий предоставляет модель Int4 + выборочно-Int8 GPTQ DeepSeek-R1-0528: только слои, которые очень чувствительны к квантованию, остаются в...
Qwen3-Coder-480B-A35B-Instruct-GPTQ-Int4-Int8Mix
Сегодня мы анонсируем Qwen3-Coder, нашу самую агентную модель кода на сегодняшний день. Qwen3-Coder доступен в нескольких размерах, но...