🤗 [Набор данных LongWriter] • 💻 [Репозиторий Github] • 📃 [LongWriter Paper] LongWriter-llama3.1-8b обучен на основе Meta-Llama-3.1-8B и способен генерировать более 10 000 слов одновременно. Пожалуйста, следуйте шаблону приглашения (системное приглашение является необязательным): n{системное приглашение}nnn[INST]{query1}[/INST]{response1}[INST]{query2}[/INST]{response2}… Вы также можете развернуть модель с помощью vllm, который позволяет генерировать более 10 000 слов в течение минуты. Вот пример кода: Если вы считаете нашу работу полезной, рассмотрите возможность цитирования LongWriter:
Модальности:
Генерация текста
Задача: Генерация текста
Автор: zai-org
Теги: llama, Long Context, chatglm, en, zh, text-generation-inference, endpoints_compatible
Лайков: 65 | Загрузок: 170
Описание основано на материалах HuggingFace. Перевод выполнен автоматически.
