GGUF quantizations of 0xSero/gemma-4-19b-a4b-it-REAP, a 30% expert-pruned variant of google/gemma-4-26b-a4b-it using the REAP (Router-weighted Expert Activation Pruning) method. 0xSero/gemma-4-19b-a4b-it-REAP applies REAP expert pruning (arXiv:2510.13999) to remove 30% of MoE experts (38 of 128 per layer) from Gemma 4 26B-A4B-it, while preserving routing behavior. Active parameters per token remain unchanged at ~4B. The result is a ~31% smaller model with near-identical generation quality across coding, math, and reasoning benchmarks.
Модальности:
Генерация текста
Области применения:
Диалог / чат
Задача: Генерация текста
Автор: barozp
Теги: gguf, gemma4, image-text-to-text, moe, pruning, reap, cerebras, expert-pruning
Лайков: 3 | Загрузок: 608
Описание основано на материалах HuggingFace. Перевод выполнен автоматически.
