href=»https://mercurial-kidney-02d.notion.site/QuestA-Expanding-Reasoning-Capacity-in-LLMs-via-Question-Augmentation-216b21d08abb81a1bcecfe79e7d1e88a»>Блог | 🤗Модели | 🤗Данные | QuestA представляет дополнение вопросов, чтобы значительно улучшить задачи рассуждения в больших языковых моделях (LLM). Включая частичные решения во время обучения с подкреплением (RL), QuestA повышает способность решать проблемы и ускоряет обучение решению сложных задач. Ключевые улучшения QuestA: — Значительное повышение производительности в тестах математических рассуждений (например, AIME25, HMMT25), включая повышение точности на 10 % и более. — Повышение эффективности обучения за счет расширенных подсказок, позволяющих более легко обучаться решению сложных задач. — Самые современные результаты для моделей с параметрами 1,5B, что делает QuestA эффективным даже для моделей с меньшими размерами параметров. — Тип модели: причинно-языковая модель (обучение на основе RL) — Метод обучения: обучение с подкреплением (RL) с расширением вопросов — Количество параметров: 1,5B (базовая модель), дополненное динамическим контролем сложности — Количество слоев: настраивается на основе конфигурации обучения RL — Длина контекста: 32 тыс. токенов (настраивается) — Основное нововведение: вопрос…
Модальности:
Генерация текста
Области применения:
Диалог / чат
Задача: Генерация текста
Автор: foreverlasting1202
Теги: qwen2, conversational, text-generation-inference, endpoints_compatible
Лайков: 17 | Загрузок: 2,557
Описание основано на материалах HuggingFace. Перевод выполнен автоматически.
