🔥Мы рады объявить о выпуске KAT-Dev-72B-Exp, нашей последней и самой мощной модели! 🔥 Теперь вы можете бесплатно опробовать нашу самую сильную фирменную модель кодера KAT-Coder прямо на платформе StreamLake. KAT-Dev-72B-Exp — это модель с 72B параметрами с открытым исходным кодом для задач разработки программного обеспечения. По результатам проверки SWE-Bench KAT-Dev-72B-Exp достигает точности 74,6 % ⚡ — при строгой оценке с помощью платформы SWE-агента. KAT-Dev-72B-Exp — это экспериментальная версия модели KAT-Coder для обучения с подкреплением. С помощью этой версии с открытым исходным кодом мы стремимся раскрыть разработчикам и исследователям технические инновации, лежащие в основе крупномасштабного RL KAT-Coder. Мы переписали ядро внимания и перепроектировали механизм обучения для траекторий общих префиксов, чтобы добиться высокоэффективного обучения RL, особенно для каркасов, использующих управление контекстом. Кроме того, чтобы предотвратить коллапс исследования, наблюдаемый при обучении RL, мы изменили распределение преимуществ на основе показателей успешности: усилили масштаб преимуществ групп с высоким уровнем исследовательских навыков и уменьшили масштаб преимуществ групп с низким уровнем исследования.
Модальности:
Генерация текста
Области применения:
Диалог / чат
Задача: Генерация текста
Автор: Kwaipilot
Теги: qwen2, conversational, text-generation-inference, endpoints_compatible
Лайков: 158 | Загрузок: 17
Описание основано на материалах HuggingFace. Перевод выполнен автоматически.