Qwen3-Coder-Next с легкостью превосходит предыдущие модели Next. mxfp4 на голову превосходит старый Next q8, зарекомендовав себя как самый производительный квант на данный момент. Формула Deckard(qx) для Next использовалась без изменений по сравнению с предыдущей серией Next. Использование размера группы 32 в больших количествах для Coder-Next дает очень мало преимуществ, поскольку оно не принесло много пользы qx86n-hi (не загружается из-за нехватки места). Однако при низких квантах mxfp4 и qx64n-hi показывают самые высокие комбинированные значения arc, openbookqa, hellaswag и winogrande, даже по сравнению с более крупными квантами. Qx53n все еще работает, у него немного лучше openbooka, чем у mxfp4, что достаточно для некоторых случаев использования. mxfp8 кажется непобедимым по скорости, а его показатели превосходны, демонстрируя высочайшую логику, hellaswag и piqa. Вот несколько мозговых волн для qx86-hi для элементов Nightmedia 30B-A3B, чтобы дать представление о том, насколько лучше может быть Next. Эти тесты не имеют ничего общего с тем, что знает модель, а насколько хорошо она думает с тем, что знает. Таким образом, с когнитивной точки зрения Next поднялся до уровня Element5 или около того. А еще есть любопытный случай с Qwen3-4B-Engineer3x-qx86-hi-mlx. Эта модель Qwen3-Coder-Next-mxfp4-mlx была…
Модальности:
Генерация текста
Области применения:
Диалог / чат Генерация кода
Задача: Генерация текста
Автор: nightmedia
Теги: mlx, qwen3_next, conversational, 4-bit
Лайков: 6 | Загрузок: 906
Описание основано на материалах HuggingFace. Перевод выполнен автоматически.
