Эта модель была преобразована в 4-битный формат MLX из файла loveheart/Qwen3-Coder-Next-REAP-48B-A3B-GGUF с использованием mlx-lm версии 0.30.6. — Тип: причинно-следственные языковые модели — Количество параметров: всего 48 байт, активировано 3 байта — Количество слоев: 48 — Длина контекста: 262 144 изначально и с возможностью расширения до 1 010 000 токенов — Метод сжатия: REAP (экспертное сокращение активации по маршрутизатору) — Коэффициент сжатия: экспертное сокращение 40 % — Квантование: 4 бита, размер группы 64
Модальности:
Генерация текста
Области применения:
Диалог / чат Генерация кода
Задача: Генерация текста
Автор: toby1991
Теги: mlx, qwen3_next, text-generation-inference, conversational, en, 4-bit
Лайков: 5 | Загрузок: 766
Описание основано на материалах HuggingFace. Перевод выполнен автоматически.
