GLM-4.7_Compressed-Tensors
В этом репозитории представлены квантованные сборки zai-org/GLM-4.7 (модель Mixture-of-Experts), переупакованные для vLLM с использованием формата сжатых тензоров. >...
Метка: w4a16
DeepSeek-V4-Flash-W4A16-FP8-MTP
W4A16 INT4 маршрутизирует экспертов + блок FP8 128×128 внимания + черновой заголовок BF16 Multi-Token Prediction (MTP) сохранен —...
MiniMax-M2.7-REAP-172B-A10B-AutoRound-W4A16
> ⚠ Экспериментальная проверка концепции — предупреждение о качестве > > Эта контрольная точка была создана в качестве...