Мы разработали метод квантования только по весу, специально предназначенный для архитектуры Mixture-of-Experts (MoE), и выпустили GLM-4.5-Air, квантованный с помощью нашего алгоритма. Квантованные веса упаковываются с использованием формата квантования на основе AutoRound.
Модальности:
Генерация текста
Области применения:
Диалог / чат
Задача: Генерация текста
Автор: nota-ai
Теги: glm4_moe, conversational, custom_code, 4-bit, auto-round
Лайков: 6 | Загрузок: 9
Описание основано на материалах HuggingFace. Перевод выполнен автоматически.