Вы когда-нибудь задумывались о менее галлюцинирующем LLaMA-2? Используя вмешательство во время вывода (ITI), обсуждаемое в моем недавнем препринте: https://arxiv.org/pdf/2306.03341.pdf, я включил вмешательство, полученное из TruthfulQA, в модель LLaMA-2 7B. У меня нет достаточно большого графического процессора, чтобы встроить ITI в более крупный LLaMA-2, но весь код для этого опубликован в https://github.com/likenneth/honest_llama. Дайте мне знать, если вам интересно это сделать 🙂 Вы можете загрузить и поиграть, начиная снизу:
Модальности:
Генерация текста
Области применения:
Диалог / чат
Задача: Генерация текста
Автор: likenneth
Теги: llama, custom_code, text-generation-inference, endpoints_compatible
Лайков: 9 | Загрузок: 437
Описание основано на материалах HuggingFace. Перевод выполнен автоматически.
