[2026.1.28] Мы предоставили ядра TileLang, поддерживающие предварительное заполнение (также фрагментированное предварительное заполнение) и декодирование (также прогнозирование нескольких токенов). Версия с полным вниманием размещается по адресу flashmlainterface.py, а версия с разреженным потоком внимания — по адресуstreamingsparseattninterface.py. Базовое использование предлагается в следующем фрагменте кода: Наряду с LongCat-Flash-Thinking-2601 мы представляем эффективную альтернативу под названием LongCat-Flash-Thinking-ZigZag. LongCat-Flash-Thinking-ZigZag ничем не отличается от LongCat-Flash-Thinking-2601, за исключением того, что он дополнительно улучшен за счет LongCat ZigZag Attention (LoZA). LoZA, по сути, представляет собой схему с разреженным вниманием, предназначенную для преобразования любых существующих моделей с полным вниманием в разреженные версии с довольно ограниченным вычислительным бюджетом. В сценариях с длинным контекстом LoZA может добиться значительного ускорения как для случаев с интенсивным предварительным заполнением (например, генерация с расширенным поиском), так и для случаев с интенсивным декодированием (например, интегрированное с инструментами рассуждение). В частности, отличая LongCat-Flash-Thinking-ZigZag от LongCat-Flash-Thinking-2601 во время среднего обучения с использованием LoZA, мы используем LongCat-Flash-Thinking-ZigZag в качестве базовой модели с длинным контекстом, которая может быстро обрабатывать длинные…
Модальности:
Генерация текста
Области применения:
Диалог / чат
Задача: Генерация текста
Автор: meituan-longcat
Теги: LongCat-Flash-Thinking-ZigZag, conversational, custom_code
Лайков: 31 | Загрузок: 12
Описание основано на материалах HuggingFace. Перевод выполнен автоматически.
