meituan-longcat/LongCat-Flash-Thinking - Каталог нейросетей
Генерация текста

meituan-longcat/LongCat-Flash-Thinking

Добавлено:
meituan-longcat/LongCat-Flash-Thinking

Мы представляем и выпускаем LongCat-Flash-Thinking, мощную и эффективную модель большого рассуждения (LRM) с 560 миллиардами общих параметров и инновационной архитектурой Mixture-of-Experts (MoE). Модель включает в себя механизм динамических вычислений, который активирует 18,6–31,3 млрд параметров (в среднем около 27 млрд) на основе контекстных требований, оптимизируя как эффективность вычислений, так и производительность. LongCat-Flash-Thinking разработан нашей системой DORA, которая представляет собой эффективную распределенную среду обучения, поддерживающую асинхронное обучение и гибкое использование ускорителей для обеспечения стабильности и эффективности. Наш комплексный рецепт курирования данных и параллельного обучения обеспечивает стабильное и эффективное обучение. В дополнение к общим рассуждениям, модель также оснащена методами формального рассуждения и агентного рассуждения, развивая способности LRM к рассуждению при решении различных сложных задач, таких как математика, логика, программирование, автоматическое доказательство теорем и использование инструментов. В частности, разработка LongCat-Flash-Thinking проходит в два этапа: — Длительное обучение CoT с холодным запуском: этот этап направлен на развитие основных способностей модели к рассуждению. Это начинается с…

Модальности:
Генерация текста

Области применения:
Диалог / чат


Задача: Генерация текста
Автор: meituan-longcat
Теги: LongCat-Flash-Chat, conversational, custom_code
Лайков: 147  |  Загрузок: 21

Открыть на HuggingFace →

Описание основано на материалах HuggingFace. Перевод выполнен автоматически.