Метка: prismaquant

rdtand/MiniMax-M2.7-PrismaQuant-3.20bit-vllm

Квантование смешанной точности с совместной экспертной обрезкой. Подходит для MoE с параметром 228 B в 90 ГБ на...