Это тонкая настройка GLM-4.7-Flash, созданная с помощью механизма аблитерации Heretic (v1.2.0) компании P-E-W с включенной ортогональной абляцией с сохранением величины. ——————|—————|——————————|————-| Для многооборотных агентских задач (τ²-Bench и Terminal Bench 2) включите режим «Сохраненного мышления». Для оценки τ^2-Bench мы добавили дополнительный запрос к взаимодействию с пользователем в сфере розничной торговли и телекоммуникаций, чтобы избежать режимов сбоя, вызванных неправильным завершением взаимодействия пользователями. Для домена «Авиакомпания» мы применили исправления домена, предложенные в отчете о выпуске Claude Opus 4.5. Для локального развертывания GLM-4.7-Flash поддерживает платформы вывода, включая vLLM и SGLang. Подробные инструкции по развертыванию доступны в официальном репозитории Github. vLLM и SGLang поддерживают GLM-4.7-Flash только в своих основных ветках. + Установите поддерживаемые версии SGLang и Transformers (рекомендуется использовать uv): + Для графических процессоров Blackwell включите —attention-backend triton —speculative-draft-attention-backend triton в команду запуска SGLang. Если наша работа окажется полезной для вашего исследования, пожалуйста, процитируйте следующую статью: «bibtex…
Модальности:
Генерация текста
Области применения:
Диалог / чат
Задача: Генерация текста
Автор: MuXodious
Теги: glm4_moe_lite, heretic, uncensored, decensored, abliterated, conversational, en, zh
Лайков: 9 | Загрузок: 39
Описание основано на материалах HuggingFace. Перевод выполнен автоматически.
