Это MLX-релиз урезанной версии Qwen3.6-27B без цензуры с сохраненной исходной полезной нагрузкой изображения/видео, созданной на основе опубликованной контрольной точки BF16. Применив конвейер MPOA в стиле «Еретик» с сохранением величины к стеку плотного текста Qwen3.6-27B, базовое поведение отказа было удалено на уровне веса. Эта сборка MLX сохраняет поведение текстовой стороны в формате Apple Silicon, сохраняя при этом полезную нагрузку изображения/видео Qwen3.6-27B в репозитории. Qwen3.6-27B — это модель языка видения с плотностью 27,8 байт с 64 текстовыми слоями, гибридным линейным/полным вниманием (3 линейных и 1 полного внимания на 4-слойную группу) и интегрированной башней изображения + видеовидения. Этот вариант MLX был создан непосредственно на основе Youssofal/Qwen3.6-27B-Abliterated-Heretic-Uncensored-BF16 с использованием динамического 8-битного аффинного квантования MLX с учетом слоев и уровнями размера группы 64/32. Это динамический проход квантования с учетом слоев, а не плоское преобразование. Сохраненная мультимодальная полезная нагрузка включает в себя исходные тензоры изображения/видео и файлы процессора; Прямое использование изображений/видео зависит от поддержки мультимодальных входов Qwen3.6 во время выполнения MLX. — model-.safetensors: квантованные веса текста MLX —…
Модальности:
Генерация текста Компьютерное зрение Мультимодальность
Области применения:
Диалог / чат
Задача: Генерация текста
Автор: Youssofal
Теги: mlx, qwen3_5, mlx-lm, qwen, qwen3.6, dense, multimodal, vlm
Лайков: 5 | Загрузок: 1,378
Описание основано на материалах HuggingFace. Перевод выполнен автоматически.
