Мы представляем DNA-R1, специализированную модель мышления, оптимизированную для корейского языка и основанную на Microsoft Phi-4. Применяя крупномасштабное обучение с подкреплением (RL) с использованием той же методологии, что и DeepSeek-R1, мы значительно расширили возможности корейской модели рассуждения. Эта модель демонстрирует глубокое понимание корейского текста и исключительные способности к рассуждению в области математики, программирования и общих логических задач. Наш комплексный конвейер обучения состоит из трех стратегических этапов: — Этап 1: Начальное SFT с большим набором данных без рассуждений на корейском языке (760 тыс. примеров), повторно использованным из нашего конвейера обучения DNA 1.0 8B Instruct. — Этап 2: Стратегическая интеграция моделей рассуждений на корейском языке из DeepSeek R1 с использованием специализированного набора данных для рассуждений на корейском языке (300 тыс. примеров). — Этап 3: Расширенное обучение с подкреплением с помощью GRPO с использованием комбинированного набора данных для рассуждений на корейском и английском языке с таким форматом, точностью и языковой согласованностью, как Награды: DNA-R1 изучил модели рассуждения, специально адаптированные для корейского языка, и демонстрирует такие способности, как самопроверка, размышление и создание длинных цепочек мыслей (CoT). Это представляет собой важную веху для развития искусственного интеллекта…
Модальности:
Генерация текста
Области применения:
Логика и рассуждение Диалог / чат
Задача: Генерация текста
Автор: dnotitia
Теги: phi3, dnotitia, nlp, llm, slm, conversation, chat, reasoning
Лайков: 41 | Загрузок: 70
Описание основано на материалах HuggingFace. Перевод выполнен автоматически.
