 Это квантованная версия THUDM/LongWriter-glm4-9b, созданная с использованием llama.cpp 🤗 [LongWriter Dataset] • 💻 [Github Repo] • 📃 [LongWriter Paper] LongWriter-glm4-9b обучен на основе glm-4-9b и способен генерировать более 10 000 слов одновременно. Среда: те же требования к среде, что и glm-4-9b-chat (transformrs>=4.43.0). Вы также можете развернуть модель с помощью vllm, который позволяет генерировать более 10 000 слов в течение минуты. Вот пример кода: Если вы найдете нашу работу полезной, рассмотрите возможность цитирования LongWriter:
Модальности:
Генерация текста
Области применения:
Диалог / чат
Задача: Генерация текста
Автор: QuantFactory
Теги: gguf, Long Context, chatglm, llama, en, zh, endpoints_compatible, conversational
Лайков: 10 | Загрузок: 325
Описание основано на материалах HuggingFace. Перевод выполнен автоматически.
