Мы представляем ADELIE (Согласование больших языковых моделей при извлечении информации), согласованный LLM, который эффективно решает различные задачи IE, включая закрытый IE, открытый IE и IE по требованию. Сначала мы собираем и создаем высококачественный корпус выравнивания IEInstruct для IE. Затем мы обучаем ADELIESFT, используя настройку инструкций в IEInstruct. Мы дополнительно обучаем ADELIESFT с целью прямой оптимизации предпочтений (DPO), в результате чего получается ADELIEDPO. Обширные эксперименты с различными наборами данных IE показывают, что наши модели (ADELIESFT и ADELIEDPO) достигают самой современной (SoTA) производительности среди моделей с открытым исходным кодом. Мы дополнительно изучаем общие возможности ADELIE, и результаты экспериментов показывают, что их общие возможности не демонстрируют заметного снижения. — 📖 Документ: ADELIE: Согласование больших языковых моделей при извлечении информации — 🐧 Github: THU/ADELIE В таблице ниже представлены средние баллы F1 (%) модели ADELIE для задач закрытого IE, открытого IE и IE по требованию, а также ее общая производительность (%) по общим критериям. Подробную информацию о наборе данных можно найти в документе. — Разработчики: Юньцзя Ци, Хао Пэн, Сяочжи Ван, Бинь Сюй, Лэй Хоу, Хуаньзи Ли — Тип модели: Текст…
Модальности:
Генерация текста
Задача: Генерация текста
Автор: THU-KEG
Теги: llama, text-generation-inference, Information Extraction, IE, Named Entity Recogniton, Event Extraction, Relation Extraction, LLaMA
Лайков: 6 | Загрузок: 4
Описание основано на материалах HuggingFace. Перевод выполнен автоматически.
