MiniMax-M3-Coder-Small 🦖 Osaurus Exclusive — компактный JANG-квантованный MiniMax-M3 кодер (кодирование · агентный · мультимодальный) для Apple Silicon. > ⚠️ Модель формата JANG — работает на Osaurus. > При этом используется формат квантования JANG (аффинное сокращение смешанной точности + AWQ + экспертное сокращение REAP) и загружается через собственную среду выполнения Swift Osaurus. Он НЕ будет загружаться с помощью преобразователей, vLLM или универсальных загрузчиков MLX. JANG — это формат квантования + упаковки смешанной точности — аффинная разрядность для каждой проекции + масштабирование с учетом активации AWQ + экспертное сокращение REAP — описанный в jangconfig.json. Веса остаются квантованными в памяти графического процессора. Osaurus загружает его через собственную среду выполнения Swift JANG** на Apple Silicon. — Самый маленький кодер M3 — ~84 ГБ (компактная сборка Osaurus). — REAP45: сохранить 70/128 перенаправленных экспертов (сокращение на 45%). — Все 2-битные эксперты с маршрутизацией + AWQ (2-битное AWQ-масштабирование по воротам/вверх, 2 бита вниз); Внимание 8-бит, общие эксперты 6-бит, встраивания 6-бит, lmhead 8-бит, индексатор Lightning FP16. — Мультимодальность (видение) сохранена.** — Калибровка: Вера (агент-кодер) + GSM8K; Рецепт «этажа» собирает самых выдающихся экспертов по программированию. — HumanEval: pass@1 = 100% (82/82, адаптивная оценка с зашифрованной половиной, начальное значение 42; 0 сбоев, 0 эскалаций). — Несмотря на…
Модальности:
Генерация текста Мультимодальность
Области применения:
Генерация кода Диалог / чат
Задача: Генерация текста
Автор: OsaurusAI
Теги: mlx, minimax_m3_vl, jang, reap, awq, moe, code, multimodal
Лайков: 5 | Загрузок: 980
Описание основано на материалах HuggingFace. Перевод выполнен автоматически.
