DeepCoder-14B-Preview 🚀 Демократизация обучения с подкреплением для LLM (RLLM) 🌟 DeepCoder-14B-Preview — это LLM для рассуждения кода, тонко настроенный на основе DeepSeek-R1-Distilled-Qwen-14B с использованием распределенного обучения с подкреплением (RL) для масштабирования до больших длин контекста. Модель достигает точности Pass@1 60,6% на LiveCodeBench v5 (01.08.24-2/1/25), что представляет собой улучшение на 8% по сравнению с базовой моделью (53%) и обеспечивает аналогичную производительность с o3-mini от OpenAI при всего лишь 14B параметрах. Наш набор обучающих данных состоит примерно из 24 тысяч уникальных пар «проблема-тест», составленных из: — Taco-Verified — PrimeIntellect SYNTHETIC-1 — LiveCodeBench v5 (01.05.23-7.31.24). Наш рецепт обучения основан на улучшенной версии GRPO (GRPO+) и итеративном удлинении контекста, представленном в DeepScaleR. Мы улучшаем исходный алгоритм GRPO, используя идеи DAPO, чтобы обеспечить более стабильное обучение: — Автономная фильтрация сложности: DAPO использует динамическую онлайн-сэмплирование, отбрасывая на лету как полностью правильные, так и полностью неправильные образцы. Хотя это помогает поддерживать более стабильный эффективный размер партии, это приводит к значительным накладным расходам во время выполнения из-за отклонения выборки. Вместо этого мы выполняем автономную фильтрацию сложности на…
Модальности:
Генерация текста
Области применения:
Диалог / чат Генерация кода
Задача: Генерация текста
Автор: agentica-org
Теги: qwen2, conversational, en, text-generation-inference, endpoints_compatible
Лайков: 680 | Загрузок: 369
Описание основано на материалах HuggingFace. Перевод выполнен автоматически.
