🤗 [Набор данных LongCite] • 💻 [Репозиторий Github] • 📃 [LongCite Paper] LongCite-llama3.1-8b обучен на основе Meta-Llama-3.1-8B и способен генерировать подробные цитаты при ответах на вопросы с длинным контекстом. Модель поддерживает максимальное контекстное окно размером до 128 000 токенов. Вы также можете развернуть модель с помощью vllm. См. пример кода в vllm_inference.py. Если наша работа окажется для вас полезной, пожалуйста, цитируйте LongCite:
Модальности:
Генерация текста
Задача: Генерация текста
Автор: zai-org
Теги: llama, Long Context, chatglm, custom_code, en, zh, text-generation-inference, endpoints_compatible
Лайков: 30 | Загрузок: 347
Описание основано на материалах HuggingFace. Перевод выполнен автоматически.
