— Мы опубликовали технический отчет модели КАТ-В1, доступный по ссылке https://arxiv.org/pdf/2507.08297. — Kwaipilot-AutoThink занимает первое место среди всех моделей с открытым исходным кодом в LiveCodeBench Pro, сложном тесте, специально разработанном для предотвращения утечки данных, и даже превосходит сильные проприетарные системы, такие как Seed и o3-mini. KAT (Kwaipilot-AutoThink) — это модель большого языка с открытым исходным кодом, которая снижает чрезмерное обдумывание, обучая тому, когда создавать явную цепочку мыслей, а когда отвечать напрямую. Его разработка следует краткому двухэтапному циклу обучения: Этап Основная идея Ключевые методы Результат 1. Предварительное обучение Привить знания, отделив «рассуждение» от «прямого ответа». Данные двойного режима • Обдуманные запросы, помеченные с помощью специальной системы тегов. • Обдумываемые запросы, генерируемые многоагентным решателем. Дистилляция знаний + предсказание нескольких токенов для детальной полезности. Базовая модель обеспечивает сильные фактические навыки и навыки рассуждения без полномасштабных затрат на предварительное обучение. 2. Пост-обучение Сделайте рассуждения необязательными и эффективными. Холодный старт AutoThink — большинство голосов устанавливает первоначальный режим мышления. Step-SRPO — промежуточный надзор вознаграждает правильный режим…
Модальности:
Генерация текста
Области применения:
Диалог / чат Мультиязычность
Задача: Генерация текста
Автор: Kwaipilot
Теги: qwen2, conversational, multilingual, text-generation-inference, endpoints_compatible
Лайков: 117 | Загрузок: 109
Описание основано на материалах HuggingFace. Перевод выполнен автоматически.
