Qx85 использует 5-битные хранилища данных и 8-битные пути внимания, внедрения и заголовок. Он был спроектирован так, чтобы соответствовать 128 ГБ доступной оперативной памяти Mac с контекстом приличного размера. Формула qx для Qwen3.5 все еще уточняется, модель будет обновлена на месте, если будет найдена более стабильная комбинация слоев. Эта модель Qwen3.5-122B-A10B-Text-qx85-mlx была преобразована в формат MLX из Qwen/Qwen3.5-122B-A10B с использованием mlx-lm версии 0.30.8.
Модальности:
Генерация текста
Области применения:
Диалог / чат
Задача: Генерация текста
Автор: nightmedia
Теги: mlx, qwen3_5_moe, conversational, 8-bit
Лайков: 5 | Загрузок: 336
Описание основано на материалах HuggingFace. Перевод выполнен автоматически.
