Когда вы хотите специфическое для MoE сжатие без отправки качества в бездну. Построено из: — Основание: MiniMaxAI/MiniMax-M2.5 — Источник REAP: tomngdev/MiniMax-M2.5-REAP-139B-A10B-GGUF (BF16 split) — Квантовано локально с помощью llama.cpp как MXFP4MOE`. Этот квант использует смешанную компоновку (как ожидается для MXFP4 MoE), включая тензоры mxfp4, q80 и f32`. MXFP4 имеет другую целевую аудиторию, чем стандартные пакеты серии Q, поэтому у него есть собственный чистый дом и более простая поверхность загрузки. — MiniMaxAI для MiniMax-M2.5 — tomngdev для выпуска BF16 REAP GGUF — BennyDaBall для этого Quant Вы несете ответственность за собственное использование, результаты и соблюдение применимых законов и политик платформы.
Модальности:
Генерация текста
Области применения:
Диалог / чат
Задача: Генерация текста
Автор: BennyDaBall
Теги: gguf, minimax, moe, reap, mxfp4, en, endpoints_compatible, conversational
Лайков: 4 | Загрузок: 12
Описание основано на материалах HuggingFace. Перевод выполнен автоматически.