Этот репозиторий позволяет обучать ваших агентов, созданных Youtu-Agent. Мы проверили выполнение задач кода/математики (ReTool) и поиска (SearchR1) с многоузловым обучением на 128 графических процессорах. Youtu-Agent — это платформа для создания и управления собственным агентом Youtu. Он предназначен для использования в качестве инструмента командной строки или библиотеки в ваших собственных проектах Python. Agent Lightning — это фреймворк для обучения агентов на основе LLM с помощью популярных обучающих бэкендов. В настоящей реализации мы используем библиотеку VeRL для обучения RL. Ознакомьтесь с нашим постом в блоге на Meidum и Notion для подробных объяснений о том, как мы достигаем масштабирования RL на 128 графических процессоров без взлома. Динамика обучения RL (не менее 200 шагов) моделей 7B INSTRUCT приведена ниже для справки, подтверждая эффективность и стабильность обучения с нашим репозиторием. При длительном обучении ожидается больший прирост производительности. — SearchR1. TriviaQA: 0,37 (стадия 0) -> 0,54 (стадия 200); PopQA: 0,16 (стадия 0) -> 0,35 (стадия 200); NQ: 0,24 (стадия 0) -> 0,45 (стадия 200); MuSiQue: 0,06 (стадия 0) -> 0,14 (стадия 200); HotpotQA: 0,21 (стадия 0) -> 0,38 (стадия 200); Bamboogle: 0,23 (стадия 0) -> 0,36 (стадия 200); 2wiki: 0,22 (стадия 0) -> 0,32 (стадия…
Модальности:
Генерация текста
Области применения:
Диалог / чат Математика
Задача: Генерация текста
Автор: yolay
Теги: qwen2, agent, conversational, en
Лайков: 3 | Загрузок: 33
Описание основано на материалах HuggingFace. Перевод выполнен автоматически.
