Мы представляем ChatQA-1.5, который преуспевает в ответе на разговорный вопрос (QA) и генерации с аугментацией поиска (RAG). ChatQA-1.5 построен по обучающему рецепту из ChatQA (1.0) и построен поверх модели фундамента Llama-3. Кроме того, мы включаем больше разговорных данных QA, чтобы расширить возможности табличных и арифметических вычислений. ChatQA-1.5 имеет два варианта: ChatQA-1.5-8B и ChatQA-1.5-70B. Обе модели изначально обучены с помощью Megatron-LM, мы конвертировали контрольные точки в формат Hugging Face. ChatQA-1.5-70B Это может быть применено к сценарию, в котором весь документ может быть помещен в модель, так что нет необходимости выполнять поиск по документу. Это может быть применено к сценарию, когда документ очень длинный, так что необходимо запустить поиск. Здесь мы используем наш ретривер Dragon-multiturn, который может обрабатывать запрос conversatinoal. Кроме того, мы предлагаем несколько…
Модальности:
Генерация текста
Области применения:
Диалог / чат
Задача: Генерация текста
Автор: grimjim
Теги: llama, nvidia, chatqa-1.5, chatqa, llama-3, conversational, en, text-generation-inference
Лайков: 3 | Загрузок: 25
Описание основано на материалах HuggingFace. Перевод выполнен автоматически.
