MiniMax-M2.5-REAP-139B-A10B-AWQ-4bit
𓌳 REAP𓌳 Эксперты: почему обрезка преобладает при однократном сжатии MoE Представляем MiniMax-M2.5-REAP-139B-A10B, сжатый вариант MiniMax-M2.5 с эффективным использованием...
Метка: minimax_m2
MiniMax-M2.7-ConfigI-MLX
93,5% MMLU при 87 ГБ. Декодирование 61 ток/с. ЗГЗ 4.604. 228B-параметр MoE сжат на 62% с помощью квантования...
MiniMax-M2.5-AWQ
Этот репозиторий квантует модель с использованием квантования без данных (набор калибровочных данных не требуется). По состоянию на 15...
MiniMax-M2.5-Hybrid-AWQ-W4A16G128-Attn-fp8_e4m3-KV-fp8_e4m3
Гибридный кэш AWQ int4 + fp8 + fp8 KV MiniMaxAI/MiniMax-M2.5 (~229B параметров, 256 экспертов на слой), который подходит...
MiniMax-M2.7
MiniMax-M2.7 — наша первая модель, глубоко участвующая в собственной эволюции. M2.7 способен создавать сложные агентские системы и выполнять...
MiniMax-M2.1-AWQ-4bit
— Метод квантования: cyankiwi AWQ v1.0 — Биты: 4 — Размер группы: 32 — Набор калибровочных данных: ScaleAI/SWE-benchPro...
MiniMax-M2-REAP-139B-A10B
𓌳 REAP𓌳 Эксперты: почему обрезка преобладает при однократном сжатии MoE Представляем MiniMax-M2-REAP-139B-A10B, сжатый вариант MiniMax-M2 с эффективным использованием...
MiniMax-M2.7-GGUF
ПРИМЕЧАНИЕ. ikllama.cpp` также может запускать существующие GGUF от bartowski, unsloth, mradermacher и т. д., если вы хотите опробовать...
MiniMax-M2.5-FP8-INT4-AWQ
Это квант высочайшего качества, который может работать на 192 ГБ видеопамяти > [!TIP] > 💡 Версия без FP8...
MiniMax-M2-REAP-172B-A10B
𓌳 REAP𓌳 Эксперты: почему обрезка преобладает при однократном сжатии MoE Представляем MiniMax-M2-REAP-172B-A10B, сжатый вариант MiniMax-M2 с эффективным использованием...