Самый маленький MiniMax M2.7 для Apple Silicon — подходит для компьютеров Mac емкостью 96 ГБ и более. > Рекомендуется: запустите в MLX Studio для получения наилучших результатов, включая поддержку режима мышления и оптимизированный вывод MoE. MiniMax M2.7 – всегда рассуждающая модель. Он думает, прежде чем ответить на каждый запрос. JANG защищает маршрутизацию и внимание с полной точностью, одновременно сжимая 256 экспертных MLP, где модели MoE наиболее устойчивы к квантованию. Маршрутизатор сохраняет значение float16 (без квантования) для максимальной точности маршрутизации. Стандартное квантование MLX на MiniMax дает полностью искаженный вывод на ВСЕХ битовых уровнях (~ 25% MMLU = случайное угадывание). Подход смешанной точности JANG — единственный работающий квантовый MiniMax на Apple Silicon. На M2.5 JANG2L достиг 74% MMLU** против 25% у MLX (случайно). Ожидаются результаты M2.7. — Apple Silicon Mac с унифицированной памятью 96 ГБ — Платформа MLX — Рекомендованная MLX Studio MiniMax M2.7 использует чередующееся мышление + вызовы инструментов — он рассуждает внутри блоков, а затем генерирует вызовы инструментов в формате. Некоторые клиенты (Opencode и т. д.) могут удалить блок ` и пропустить вызов инструмента. Для клиентов, использующих инструменты, установите Enablethinking=False` в шаблоне чата: Эта модель предназначена для исследований и личного использования. Пользователи…
Модальности:
Генерация текста
Области применения:
Диалог / чат
Задача: Генерация текста
Автор: JANGQ-AI
Теги: mlx, minimax_m2, jang, minimax, moe, apple-silicon, conversational, custom_code
Лайков: 12 | Загрузок: 1,347
Описание основано на материалах HuggingFace. Перевод выполнен автоматически.
