— 27.07.2026: 🤗 Выпущены весы моделей kanana-2-3b, kanana-2-1.3b HF. — 27.07.2026: 📕 Опубликована запись в блоге о разработке серии SLM «Канана-2». Мы представляем Kanana-2 SLM, вторую серию моделей малого языка (SLM) Kakao, разработанную для обеспечения мощных языковых возможностей, оставаясь при этом компактными и эффективными для практического применения. В серию входят модели 3B, 1,3B и 0,9B. Этот выпуск публично включает модель 3B и сжатую модель 1.3B, обеспечивая баланс между возможностями и эффективностью для широкого спектра приложений. Канана-2-3B прошла предварительное обучение с нуля на кластерах ТПУ и в дальнейшем улучшалась посредством постобучения с контролируемой точной настройкой и обучением с подкреплением, что привело к сильным способностям следовать инструкциям и рассуждениям. Модели Kanana-2-1.3B созданы на основе Kanana-2-3B посредством каскадной обрезки и конвейера дистилляции. Для дальнейшего повышения эффективности развертывания они применяют скользящее окно внимания (SWA), позволяющее эффективно использовать память для вывода длинного контекста с поддержкой длины контекста до 32 КБ токенов, одновременно существенно снижая требования к памяти KV-кэша. Релиз Kanana-2 SLM состоит из следующих четырех общедоступных…
Модальности:
Генерация текста
Задача: Генерация текста
Автор: kakaocorp
Теги: qwen3, text-generation-inference, endpoints_compatible
Лайков: 5 | Загрузок: 475
Описание основано на материалах HuggingFace. Перевод выполнен автоматически.
