PlanLLM — это разговорный помощник, обученный помогать пользователям в заполнении рецепта от начала до конца и быть в состоянии ответить на любые связанные или релевантные запросы, которые могут возникнуть у пользователя. Модель также тестировалась с помощью DIY Tasks и выполнялась аналогично. PlanLLM был обучен путем точной настройки модели Vicuna на синтетический диалог между пользователями и ассистентом о данном рецепте. Модель сначала обучалась с использованием SFT, а затем с использованием оптимизации прямых предпочтений (DPO). SFT: — Тип поезда: Полностью шардированные параллельные данные (FSDP) с 4 графическими процессорами A100 40 ГБ — Размер партии: 1 — Градиент Acc. Шаги: 64 — Шаги поезда: 600 DPO: — Тип поезда: Адаптация низкого ранга (LoRA) с 1 графическим процессором A100 40 ГБ — Ранг LoRA: 64 — Альфа LoRA: 16 — Размер партии: 1 — Градиент Acc. Этапы: 64 — Этапы обучения: 350 PlanLLM был обучен синтетическим диалогам пользовательской системы, где роль системы заключается в том, чтобы помочь пользователю выполнить заданную задачу. В нашем случае мы использовали рецепты. Эти диалоги были сгенерированы с использованием высказываний пользователей Alexa, которые взаимодействовали с TWIZ, нашей записью в Alexa Prize Taskbot Challenge 1. Используя классификатор намерений, мы сопоставили каждое высказывание пользователя с конкретным намерением, что позволило нам собрать…
Модальности:
Генерация текста
Задача: Генерация текста
Автор: NOVA-vision-language
Теги: llama, en, text-generation-inference
Лайков: 3 | Загрузок: 112
Описание основано на материалах HuggingFace. Перевод выполнен автоматически.
