Экспериментальный исследовательский артефакт И кандидат НА высвобождение. Это гибридная контрольная точка MLX, а не полностью тройная сквозная модель. Базовая архитектура Qwen3.6-35B-A3B. Пользователи должны соблюдать требования к лицензии и атрибуции модели Qwen. Исследование выборочного экспертного сжатия МОС, построения локальных контрольных точек MLX и методологии парной оценки. Не используйте эту модель в качестве сертифицированного помощника по безопасности, рабочего времени, канонического представления эталона или доказательства того, что все веса MoE могут быть тернаризированы без потери качества. Контрольная точка сохраняет архитектуру Qwen3.6-35B-A3B и использует гибридную компоновку MLX: выбранные срезы экспертной проекции представлены решениями статической тройной реконструкции, полные затронутые слитые модули сохраняются в BF16, а оставшиеся поддерживаемые модули квантуются с помощью официального аффинного 4-битного квантования MLX-LM, размер группы 64. — Selected slices: 78 — Affected experts: 32 — Affected source fused modules: 21 — BF16-preserved MLX module paths: 29 MLX safetensors checkpoint with six shards plus standard support files (config.json, tokenizer files, chat template, model index, and conversion manifest). M1 Max с единой памятью 64 ГБ. Наблюдается…
Модальности:
Генерация текста
Области применения:
Диалог / чат
Задача: Генерация текста
Автор: Keifer77
Теги: mlx, qwen3_5_moe, qwen, mixture-of-experts, ternary-quantization, model-compression, apple-silicon, research
Лайков: 3 | Загрузок: 116
Описание основано на материалах HuggingFace. Перевод выполнен автоматически.
