QuantTrio/GLM-4.5-GPTQ-Int4-Int8Mix - Каталог нейросетей
Генерация текста

QuantTrio/GLM-4.5-GPTQ-Int4-Int8Mix

Добавлено:
QuantTrio/GLM-4.5-GPTQ-Int4-Int8Mix

👋 Присоединяйтесь к нашему сообществу Discord. 📖 Посетите технический блог GLM-4.5. 📍 Используйте сервисы API GLM-4.5 на платформе Z.ai API (глобальная) или открытой платформе Zhipu AI (материковый Китай). 👉 Один клик для GLM-4.5. Модели серии GLM-4.5 представляют собой базовые модели, предназначенные для интеллектуальных агентов. GLM-4.5 имеет 355 миллиардов общих параметров и 32 миллиарда активных параметров, тогда как GLM-4.5-Air имеет более компактную конструкцию с 106 миллиардами общих параметров и 12 миллиардами активных параметров. Модели GLM-4.5 объединяют рассуждения, кодирование и возможности интеллектуальных агентов для удовлетворения сложных требований приложений интеллектуальных агентов. И GLM-4.5, и GLM-4.5-Air представляют собой гибридные модели рассуждения, которые обеспечивают два режима: режим мышления для сложных рассуждений и использования инструментов и режим без мышления для немедленных ответов. Мы открыли исходный код базовых моделей, гибридных моделей рассуждений и версий гибридных моделей рассуждений FP8 для GLM-4.5 и GLM-4.5-Air. Они выпускаются под лицензией с открытым исходным кодом MIT и могут использоваться в коммерческих целях и для вторичной разработки. Как показала наша комплексная оценка по 12 стандартным отраслевым тестам, GLM-4.5 демонстрирует исключительную производительность с результатом 63,2 в…

Модальности:
Генерация текста

Области применения:
Диалог / чат


Задача: Генерация текста
Автор: QuantTrio
Теги: glm4_moe, GPTQ, Int4-Int8Mix, 量化修复, vLLM, conversational, endpoints_compatible, 4-bit
Лайков: 5  |  Загрузок: 6

Открыть на HuggingFace →

Описание основано на материалах HuggingFace. Перевод выполнен автоматически.