> [!TIP] > Поддержите эту работу → · X · GitHub · REAP paper · Cerebras REAP В этом репозитории теперь размещена контрольная точка BF16 GLM-5, созданная 50% обрезкой Reap. Фактическим содержимым контрольной точки являются файлы BF16, описанные ниже. — Базовая модель: GLM-5-BF16 — Архитектура: GlmMoeDsaForCausalLM — Метод: отказcontrastreap — Степень сжатия: 0,50 — Семя: 42 — Перенормировка маршрутизатора: true — Параметры: 381,464,351,232 — Общий размер предохранителей: 762,928,740,864 байт — Осколки: 17 — Точность: BF16 — Запуск наблюдения: glm5-grouped-22k-20260331T172330Z — Набор данных калибровки: комбинированный — Выходной каталог обрезки: /data0/externalresearch/glm5-layerwise-reap-artifacts/GLM-5-BF16/комбинированный/prunedmodels/layerwiserefu — Приведенные выше метаданные отражают фактическое содержание контрольной точки по состоянию на 2026-04-05. Это стало возможным благодаря NVIDIA · TNG Technology · Lambda · Prime…
Модальности:
Генерация текста
Области применения:
Диалог / чат
Задача: Генерация текста
Автор: 0xSero
Теги: glm_moe_dsa, bf16, compression, expert-pruning, glm, moe, pruned, reap
Лайков: 3 | Загрузок: 25
Описание основано на материалах HuggingFace. Перевод выполнен автоматически.
