Мы представляем обновленную версию LongCat-Flash-Thinking, получившую название LongCat-Flash-Thinking-2601, мощную и эффективную модель большого рассуждения (LRM) с 560 миллиардами общих параметров, построенную на инновационной архитектуре Mixture-of-Experts (MoE). Чтобы расширить возможности рассуждения за пределы существующих границ, мы установили режим тяжелого мышления на основе LongCat-Flash-Thinking-2601. В частности, мы разбиваем решение сложных задач на два взаимодополняющих этапа: параллельное мышление и обобщение, таким образом совместно масштабируя как глубину, так и широту рассуждений. Для масштабирования ширины рассуждений в режиме тяжелого мышления несколько траекторий генерируются независимо и параллельно, что позволяет широко исследовать пути рассуждения. Здесь применяется достаточно высокая температура вывода, чтобы обеспечить возможное разнообразие. Для масштабирования глубины рассуждений уточненные траектории на этапе суммирования можно рекурсивно возвращать в сводную модель, образуя итеративный цикл рассуждений, который поддерживает постепенное углубление рассуждений. Дополнительный этап обучения с подкреплением специально предназначен для тренировки способности к обобщению, что еще больше раскрывает потенциал этого режима. Мы сейчас…
Модальности:
Генерация текста
Области применения:
Диалог / чат
Задача: Генерация текста
Автор: meituan-longcat
Теги: LongCat-HeavyMode-Summary, conversational, custom_code
Лайков: 12 | Загрузок: 19
Описание основано на материалах HuggingFace. Перевод выполнен автоматически.
