Мы представляем DeepSeek-Coder-V2, модель языка кода Mixture-of-Experts (MoE) с открытым исходным кодом, которая обеспечивает производительность, сравнимую с GPT4-Turbo, в задачах, специфичных для кода. В частности, DeepSeek-Coder-V2 дополнительно проходит предварительное обучение на промежуточной контрольной точке DeepSeek-V2 с дополнительными 6 триллионами токенов. Благодаря непрерывному предварительному обучению DeepSeek-Coder-V2 существенно расширяет возможности DeepSeek-V2 по кодированию и математическим рассуждениям, сохраняя при этом сопоставимую производительность при выполнении общеязыковых задач. По сравнению с DeepSeek-Coder-33B, DeepSeek-Coder-V2 демонстрирует значительные улучшения в различных аспектах задач, связанных с кодом, а также в рассуждениях и общих возможностях. Кроме того, DeepSeek-Coder-V2 расширяет поддержку языков программирования с 86 до 338, одновременно увеличивая длину контекста с 16 КБ до 128 КБ. В стандартных тестах производительности DeepSeek-Coder-V2 достигает превосходной производительности по сравнению с моделями с закрытым исходным кодом, такими как GPT4-Turbo, Claude 3 Opus и Gemini 1.5 Pro, в тестах кодирования и математических вычислениях. Список поддерживаемых языков программирования можно найти здесь. Мы выпускаем DeepSeek-Coder-V2 с параметрами 16B и 236B на основе DeepSeekMoE…
Модальности:
Генерация текста
Области применения:
Диалог / чат Генерация кода Следование инструкциям
Задача: Генерация текста
Автор: deepseek-ai
Теги: deepseek_v2, conversational, custom_code, text-generation-inference, endpoints_compatible
Лайков: 115 | Загрузок: 15,536
Описание основано на материалах HuggingFace. Перевод выполнен автоматически.
