QuantPanda/LongWriter-glm4-9B-GGUF

Ссылка на исходную модель: https://huggingface.co/THUDM/LongWriter-glm4-9b ./llama-cli -m LongWriter-glm4-9B-Q5KM.gguf -p «Вы полезный помощник ИИ». —conversation Если модель загружается слишком долго, вы можете уменьшить размер контекста с помощью ./llama-cli -m LongWriter-glm4-9B-Q5KM.gguf -p «Вы полезный помощник ИИ». —conversation —ctx-size 4096

Модальности:
Генерация текста

Области применения:
Диалог / чат

Задача: Генерация текста
Автор: QuantPanda
Теги: gguf, en, endpoints_compatible, conversational
Лайков: 5  |  Загрузок: 133

Открыть на HuggingFace →

Описание основано на материалах HuggingFace. Перевод выполнен автоматически.