JANGTQ (JANG TurboQuant) квантование zai-org/GLM-5.2 для MLX на кремнии Apple. TurboQuant применяет вращение Адамара со случайным знаком, норму FP16 для каждого ряда и кодовую книгу Lloyd-Max для каждого уровня к маршрутизируемым экспертам, сохраняя магистраль с более высокой точностью. — Загрузите с помощью пакета jang-tools Python или vMLX. Не поддерживается акциями MLX, LM Studio или Ollama. — Токенизатор Кими использует tiktoken и пользовательский код: pip install tiktoken blobfile and set TRANSFORMERSTREMOTECODE=1`. Наследуется от базовой модели zai-org/GLM-5.2; квантование не изменяет вышестоящие члены. Атрибуция требуется только для очень крупных коммерческих развертываний (см. ссылку на лицензию выше).
Модальности:
Генерация текста
Области применения:
Диалог / чат
Задача: Генерация текста
Автор: bearzi
Теги: mlx, glm_moe_dsa, jang, jangtq, turboquant, mixed-precision, apple-silicon, conversational
Лайков: 3 | Загрузок: 144
Описание основано на материалах HuggingFace. Перевод выполнен автоматически.
