Квантованная версия Qwen/Qwen3-Next-80B-A3B-Instruct с использованием LLM Compressor и формата NVFP4 (E2M1 + E4M3). Это должно стать началом новой серии, мы надеемся, оптимальных квантований NVFP4, поскольку возможности карт продолжают расти. Эта модель является полной заменой Qwen/Qwen3-Next-80B-A3B-Instruct, которая работает с точностью NVFP4. Точность остается в пределах ≈ 1 % от базового уровня FP8 при стандартных тестах рассуждений и кодирования.
Модальности:
Генерация текста
Области применения:
Диалог / чат Следование инструкциям
Задача: Генерация текста
Автор: RESMP-DEV
Теги: qwen3_next, conversational, en, zh, endpoints_compatible, compressed-tensors
Лайков: 8 | Загрузок: 86
Описание основано на материалах HuggingFace. Перевод выполнен автоматически.
