Рекалибровка Agentic + Coder MiniMax-M2.7 NVFP4-GB10. Та же архитектура и схема квантования, что и у saricles/MiniMax-M2.7-NVFP4-GB10, но откалиброваны на смеси из 7 наборов данных, ориентированной на использование агентских инструментов и рабочие нагрузки генерации кода, а не на общий чат. Это два параллельных варианта одного и того же количественного подхода — родственные выпуски, а не цепочка версий. Пользовательское квантование GB10 NVFP4 MiniMaxAI/MiniMax-M2.7 (230B, 256 экспертов MoE, top-K=8), предназначенное для NVIDIA DGX Spark (GB10) и оборудования семейства Blackwell. 141,05 ГБ на диске по 29 шардам. Квантование NVFP4 после обучения зависит от набора калибровочных данных для установки масштабов активации каждого слоя (значения amax). 4-битный формат с плавающей запятой имеет 16 представимых значений — калибровка определяет, как полный диапазон активации BF16 на каждом уровне отображается на эти 16 ячеек. Если данные калибровки не соответствуют целевой рабочей нагрузке, реальные активации за пределами калиброванного диапазона обрезаются → потеря качества на этих входах. — NVFP4-GB10 откалиброван на HuggingFaceH4/ultrachat200k (общий многооборотный английский чат, 64 семпла) — NVFP4-GB10-AC откалиброван на смеси агента и кодера из 7 наборов данных (896 семплов в очереди, 888 после фильтрации по длине) Калибровочный микс -AC…
Модальности:
Генерация текста
Области применения:
Генерация кода Диалог / чат Вызов функций (Tool use)
Задача: Генерация текста
Автор: saricles
Теги: minimax_m2, minimax, nvfp4, 4-bit, quantized, compressed-tensors, vllm, DGX-Spark
Лайков: 12 | Загрузок: 1,904
Описание основано на материалах HuggingFace. Перевод выполнен автоматически.
