> [!TIP] > Поддержите эту работу: donate.sybilsolutions.ai > > Поверхность REAP: GLM | МиниМакс | Квен | Джемма | Бумага | Код | ПР17 | Коллекция Cerebras, 40 % экспертная обрезка + INT4 квантованная GLM-4 (всего 218 Б/32 Б активных параметров, ~116 ГБ) Сильно сжатая версия GLM-4.7, сочетающая экспертную обрезку REAP (удалено 40 % экспертов) с весовым квантованием INT4 (AutoRound W4A16). Эта модель примерно в 6,5 раз меньше оригинальной GLM-4.7 емкостью 700 ГБ. — Cerebras — Методология REAP (https://arxiv.org/abs/2510.13999) — Intel — Платформа квантования AutoRound. Если эта работа окажется полезной, поддержите Sybil Solutions здесь: https://donate.sybilsolutions.ai — Пожертвуйте: https://donate.sybilsolutions.ai — X: https://x.com/0xsero — GitHub: https://github.com/0xsero
Модальности:
Генерация текста
Области применения:
Генерация кода Диалог / чат
Задача: Генерация текста
Автор: 0xSero
Теги: glm4_moe, moe, pruned, glm, glm-4, reap, quantized, 4bit
Лайков: 24 | Загрузок: 477
Описание основано на материалах HuggingFace. Перевод выполнен автоматически.
