В течение последних трех месяцев мы продолжали масштабировать мыслительные способности Qwen3-235B-A22B, улучшая как качество, так и глубину рассуждений. Мы рады представить Qwen3-235B-A22B-Thinking-2507-FP8 со следующими ключевыми улучшениями: — Значительно улучшена производительность при решении задач рассуждения, включая логические рассуждения, математику, естественные науки, кодирование и академические тесты, которые обычно требуют человеческого опыта — достижение самых современных результатов среди моделей мышления с открытым исходным кодом. — Заметно улучшены общие возможности, такие как следование инструкциям, использование инструментов, генерация текста и согласование с предпочтениями человека. — Улучшены возможности понимания длинного контекста 256K. Этот репозиторий содержит версию Qwen3-235B-A22B-Thinking-2507 для FP8, которая имеет следующие функции: — Тип: причинно-следственные языковые модели — Этап обучения: предварительное обучение и постобучение — Количество параметров: всего 235B и 22B активированных — Количество параметров (без внедрения): 234B — Количество слоев: 94 — Количество заголовков внимания (GQA): 64 для Q и 4 для KV — Количество экспертов: 128 — Количество активированных экспертов: 8 — Длина контекста: 262 144 изначально. Кроме того, чтобы обеспечить модельное мышление,…
Модальности:
Генерация текста
Области применения:
Диалог / чат
Задача: Генерация текста
Автор: Qwen
Теги: qwen3_moe, conversational, endpoints_compatible, fp8
Лайков: 82 | Загрузок: 43,375
Описание основано на материалах HuggingFace. Перевод выполнен автоматически.
