> [!NOTE] > Включает исправления шаблонов чата! Для llama.cpp используйте —jinja > Unsloth Dynamic 2.0 обеспечивает превосходную точность и превосходит другие ведущие количественные показатели. 📰 Технический блог | 📄 Paper Link (скоро) Kimi K2 — это современная языковая модель для смешанных экспертов (MoE) с 32 миллиардами активированных параметров и 1 триллионом общих параметров. Обученный с помощью оптимизатора Muon, Kimi K2 достигает исключительной производительности при выполнении передовых задач по знанию, рассуждению и кодированию, будучи при этом тщательно оптимизированным для агентских возможностей. — Масштабное обучение: предварительно обучена модель MoE с параметром 1T на токенах 15,5T с нулевой нестабильностью обучения. — Оптимизатор MuonClip: мы применяем оптимизатор Muon в беспрецедентных масштабах и разрабатываем новые методы оптимизации для устранения нестабильностей при масштабировании. — Агентский интеллект: специально разработан для использования инструментов, рассуждений и автономного решения проблем. — Kimi-K2-Base: базовая модель, отличный старт для исследователей и строителей, которым нужен полный контроль над тонкой настройкой и индивидуальными решениями. — Kimi-K2-Instruct: модель после обучения, лучше всего подходит для чата общего назначения и…
Модальности:
Генерация текста
Области применения:
Диалог / чат Следование инструкциям
Задача: Генерация текста
Автор: unsloth
Теги: deepseek_v3, unsloth, conversational, custom_code, text-generation-inference, endpoints_compatible, fp8
Лайков: 22 | Загрузок: 98
Описание основано на материалах HuggingFace. Перевод выполнен автоматически.
