Qwen3-4B-Base-GRPO — это контрольная точка после RL, обученная с помощью фреймворка verl. Он начинается с Qwen3-4B-Base и применяет GRPO к набору данных DAPO-Math-17k-Processed для математических рассуждений и решения проблем. Эта модель связана с работой: Rethinking On-Policy Distillation of Large Language Models: Phenomenology, Mechanism, and Recipe Paper link: https://arxiv.org/abs/2604.13016 Эта модель получена путем применения обучения с подкреплением GRPO к Qwen3-4B-Base с помощью verl. Тренинг предназначен для повышения эффективности рассуждений, ориентированных на математику, в рамках политики дистилляции. — Base model: Qwen3-4B-Base — Training framework: verl — Training stage: Reinforcement Learning (GRPO) — Parameter update: Full-parameter actor update — Primary domain: Mathematical reasoning — Reward model: Not used (rewardmodel.enable: false) — Rollout engine: vLLM — Context length: 32768 tokens — Responses per prompt**: 8 — Framework: verl — Algorithm: grpo — GRPO outcome weight: 1.0 — Learned reward model: disabled (rewardmodel.enable: false) — Reward source: custom rule-
Модальности:
Генерация текста
Области применения:
Математика Логика и рассуждение Диалог / чат
Задача: Генерация текста
Автор: Thinking-Space
Теги: qwen3, qwen, math, grpo, verl, rl, reinforcement-learning, on-policy-distillation
Лайков: 3 | Загрузок: 776
Описание основано на материалах HuggingFace. Перевод выполнен автоматически.
