Этот репозиторий содержит веса-разработчики Multi-Token Prediction (MTP), разделенные из Qwen/Qwen3.8-27B и квантованные с помощью mlxvlm.convert для спекулятивного декодирования mlx-vlm. Это не самостоятельная модель. Используйте его в качестве модели драфта вместе с совместимой контрольной точкой цели Qwen3.8 27B. — Тип модели: qwen35mtp — Размер блока MTP: 3 — Целевая архитектура: Qwen3.8 27B — Точность: MLX MXFP4, размер группы 32 — Время выполнения: MLX /mlx-vlm — Версия исходного кода: 1d4bf0f2ff6012fd82039f2fa52739d0dd7c60c0 Адаптер содержит только веса составителя MTP; цель поставляет вложения маркеров и головку языковой модели во время выполнения. Используйте адаптер и цель, полученные из одной и той же контрольной точки QWEN3.8 27B. Исходная лицензия Apache 2.0 и ограничения модели продолжают применяться.
Модальности:
Генерация текста
Области применения:
Диалог / чат
Задача: Генерация текста
Автор: mlx-community
Теги: mlx, qwen3_5_mtp, mlx-vlm, qwen3.8, qwen3.8-27b, qwen, mtp, speculative-decoding
Лайков: 3 | Загрузок: 372
Описание основано на материалах HuggingFace. Перевод выполнен автоматически.
