Этот репозиторий содержит файлы моделей формата GGUF для GLM-4.7-Flash от Zhipu AI. GLM-4.7-Flash — это высокоэффективная модель 30B-A3B для смешанных экспертов (MoE). Он спроектирован как самая мощная модель в классе параметров 30B, предлагая мощный вариант легкого развертывания, который идеально сочетает в себе производительность и эффективность. Чтобы просмотреть доступные файлы, перейдите на вкладку «Файлы и версии». Рекомендуемые параметры: Температура: 1,0 (стандартно) или 0,7 (для более строгого соблюдения). Top-P: 0,95. Контекст: -c` (настраивается в зависимости от доступной оперативной памяти).
Модальности:
Генерация текста
Области применения:
Диалог / чат
Задача: Генерация текста
Автор: AaryanK
Теги: gguf, text-generation-inference, glm, moe, flash, glm4_moe_lite, en, zh
Лайков: 7 | Загрузок: 232
Описание основано на материалах HuggingFace. Перевод выполнен автоматически.
