В течение последних трех месяцев мы продолжали масштабировать мыслительные способности Qwen3-235B-A22B, улучшая как качество, так и глубину рассуждений. Мы рады представить Qwen3-235B-A22B-Thinking-2507 со следующими ключевыми улучшениями: — Значительно улучшена производительность при решении задач рассуждения, включая логические рассуждения, математику, естественные науки, кодирование и академические тесты, которые обычно требуют человеческого опыта, — достижение самых современных результатов среди моделей мышления с открытым исходным кодом. — Заметно улучшены общие возможности, такие как следование инструкциям, использование инструментов, генерация текста и согласование с предпочтениями человека. — Улучшены возможности понимания длинного контекста 256K. Qwen3-235B-A22B-Thinking-2507 имеет следующие функции: — Тип: причинные языковые модели — Этап обучения: предварительное обучение и постобучение — Количество параметров: всего 235B и 22B активированных — Количество параметров (без внедрения): 234B — Количество слоев: 94 — Количество головок внимания (GQA): 64 для Q и 4 для KV — Количество экспертов: 128 — Количество активированных экспертов: 8 — Длина контекста: 262 144 изначально. Кроме того, чтобы обеспечить модельное мышление, шаблон чата по умолчанию автоматически включает…
Модальности:
Генерация текста
Области применения:
Диалог / чат
Задача: Генерация текста
Автор: QuantTrio
Теги: qwen3_moe, Qwen3, AWQ, 量化修复, vLLM, conversational, endpoints_compatible, 4-bit
Лайков: 6 | Загрузок: 838
Описание основано на материалах HuggingFace. Перевод выполнен автоматически.
