GRPO-VI-Qwen2-7B-RAG — это большая языковая модель, доработанная на основе базовой модели Qwen2.5-7B-Instruct (https://huggingface.co/Qwen/Qwen2.5-7B-Instruct) для выполнения задач извлечения и дополненной генерации (RAG). Процесс тонкой настройки включает контролируемую тонкую настройку в сочетании с GRPO (оптимизация групповой относительной политики). Модель обучена на наборе данных на вьетнамском языке с целью улучшить понимание вьетнамского языка и возможности генерации, а также повысить производительность при выполнении задач, требующих интеграции информации, полученной из внешних документов. Модель GRPO-VI-Qwen2-7B-RAG обучена для RAG, сохраняя при этом ее диалоговые возможности (с длиной контекста до 8192 токенов). Таким образом, он может обрабатывать следующие сценарии: * Задачи, связанные с RAG: многошаговое рассуждение, негативная фильтрация, интеграция информации и положительная/негативная идентификация. Обучение модели проходит в два этапа: контролируемая точная настройка и GRPO. * Данные контролируемой точной настройки: включают 10 тысяч образцов RAG и 30 тысяч разговорных образцов, охватывающих вопросы, связанные с математикой и общими предметными вопросами, все в формате «сначала подумай, затем ответь». * Данные GRPO: Состоят из 10 000 образцов RAG и 3 000 образцов…
Модальности:
Генерация текста
Области применения:
Диалог / чат
Задача: Генерация текста
Автор: AITeamVN
Теги: qwen2, retrieval-augmented-generation, text-generation-inference, conversational, vi, endpoints_compatible
Лайков: 17 | Загрузок: 787
Описание основано на материалах HuggingFace. Перевод выполнен автоматически.
