Мы представляем обновленную версию немыслящего режима Qwen3-235B-A22B-FP8 под названием Qwen3-235B-A22B-Instruct-2507-FP8, включающую следующие ключевые улучшения: — Значительные улучшения в общих возможностях, включая выполнение инструкций, логическое рассуждение, понимание текста, математику, естественные науки, кодирование и использование инструментов. — Существенный прогресс в охвате обширных знаний на нескольких языках. — Заметно лучшее соответствие предпочтениям пользователя при выполнении субъективных и открытых задач, что позволяет получать более полезные ответы и генерировать текст более высокого качества. — Расширенные возможности понимания длинного контекста 256K. Этот репозиторий содержит версию Qwen3-235B-A22B-Instruct-2507 для FP8, которая имеет следующие функции: — Тип: причинные языковые модели — Этап обучения: предварительное обучение и постобучение — Количество параметров: всего 235B и активировано 22B — Количество параметров (без внедрения): 234B — Количество слоев: 94 — Количество заголовков внимания (GQA): 64 для Q и 4 для KV — Количество экспертов: 128 — Количество активированных экспертов: 8 — Длина контекста: 262 144 изначально. Для получения более подробной информации, включая оценку производительности, требования к оборудованию и производительность вывода, обратитесь к нашему…
Модальности:
Генерация текста
Области применения:
Диалог / чат Следование инструкциям
Задача: Генерация текста
Автор: Qwen
Теги: qwen3_moe, conversational, endpoints_compatible, fp8
Лайков: 146 | Загрузок: 494,955
Описание основано на материалах HuggingFace. Перевод выполнен автоматически.
