StructLM — это серия моделей большого языка (LLM) с открытым исходным кодом, специально настроенных для задач структурированного обоснования знаний (SKG). Мы выпускаем 3 модели: Эти модели обучены на 🤗 SKGInstruct Dataset, наборе данных для настройки инструкций, содержащем смесь 19 задач SKG в сочетании с 🤗 SlimOrca. Для получения более подробной информации ознакомьтесь с карточкой набора данных. Модели доработаны с использованием моделей CodeLlama-Instruct-hf в качестве базовых. Каждая модель обучается в течение 3 эпох и выбирается лучшая контрольная точка. Вы можете использовать модели через библиотеку Трансформеров Huggingface. Ознакомьтесь с оценочным кодом в нашем репозитории Github: https://github.com/TIGER-AI-Lab/StructLM. Для этой модели 34B формат подсказки (отличный от 7B): Чтобы увидеть конкретные примеры этой линеаризации, вы можете напрямую сослаться на набор данных 🤗 SKGInstruct (скоро). Вскоре мы предоставим код для линеаризации этих данных. Эти модели обучаются для исследовательских целей. Они предназначены для того, чтобы уметь интерпретировать линеаризованный структурированный ввод. Дальнейшее использование потенциально может включать различные приложения, требующие интерпретации структурированных данных. Пытаясь построить специализированную для SKG модель, способную обобщать, мы показали…
Модальности:
Генерация текста
Задача: Генерация текста
Автор: TIGER-Lab
Теги: llama, en, text-generation-inference, endpoints_compatible
Лайков: 15 | Загрузок: 63
Описание основано на материалах HuggingFace. Перевод выполнен автоматически.
