DeepSearch-1.5B🌟 — это модель рассуждения с параметрами 1,5 млрд, обученная с помощью обучения с подкреплением с проверяемыми вознаграждениями (RLVR), улучшенная поиском по дереву Монте-Карло (MCTS). В отличие от предыдущих подходов, которые ограничивают структурированный поиск логическими выводами, DeepSearch интегрирует MCTS в обучение, обеспечивая систематическое исследование, детальное присвоение кредитов и эффективную буферизацию повторов. Эта модель обеспечивает самую современную точность среди 1,5 млрд моделей рассуждений, при этом она в 5,7 раза более эффективна в вычислениях, чем расширенные базовые модели обучения RL. DeepSearch повышает среднюю точность на +1,25 пункта по сравнению с лучшей предыдущей моделью 1,5B, используя при этом в 5,7 раза больше часов графического процессора. — Набор данных: DeepMath-103K (тщательно обеззараженный) — Шаги обучения: 100 — Стратегия поиска: — Выбор глобальной границы — Руководство на основе энтропии — Буфер воспроизведения с кэшированием решения — Аппаратное обеспечение: 16 × NVIDIA H100 (96 ГБ) — Вычисления: ~330 часов графического процессора
Модальности:
Генерация текста
Области применения:
Математика Логика и рассуждение Диалог / чат
Задача: Генерация текста
Автор: fangwu97
Теги: qwen2, reasoning, reinforcement-learning, rlvr, mcts, math, iclr-2026, conversational
Лайков: 9 | Загрузок: 11
Описание основано на материалах HuggingFace. Перевод выполнен автоматически.
