GLM-4.5-GPTQ-Int4-Int8Mix
👋 Присоединяйтесь к нашему сообществу Discord. 📖 Посетите технический блог GLM-4.5. 📍 Используйте сервисы API GLM-4.5 на платформе...
Метка: 量化修复
DeepSeek-R1-0528-GPTQ-Int4-Int8Mix-Compact
Этот репозиторий предоставляет модель Int4 + выборочно-Int8 GPTQ DeepSeek-R1-0528: только слои, которые очень чувствительны к квантованию, остаются в...
Qwen3-235B-A22B-Thinking-2507-AWQ
В течение последних трех месяцев мы продолжали масштабировать мыслительные способности Qwen3-235B-A22B, улучшая как качество, так и глубину рассуждений....
glm-4-9b-chat-GPTQ-Int4
1. Доступ к точке входа vllm в формате vllm. 2. Доступ к точке входа в vllm. GLM-4-9B-Chat-GPTQ-Int8-量化修复，这个模型更鲁棒。 GLM-4-9B...
Qwen3-Coder-480B-A35B-Instruct-GPTQ-Int4-Int8Mix
Сегодня мы анонсируем Qwen3-Coder, нашу самую агентную модель кода на сегодняшний день. Qwen3-Coder доступен в нескольких размерах, но...
Qwen3-Coder-30B-A3B-Instruct-AWQ
Эта модель имеет значительные потери при 4-битном квантовании, поэтому используйте ее с осторожностью. Qwen3-Coder доступен в нескольких размерах....
Qwen3-Coder-30B-A3B-Instruct-GPTQ-Int8
Qwen3-Coder доступен в нескольких размерах. Сегодня мы рады представить Qwen3-Coder-30B-A3B-Instruct. Эта оптимизированная модель обеспечивает впечатляющую производительность и эффективность,...
Qwen3-Coder-480B-A35B-Instruct-AWQ
Сегодня мы анонсируем Qwen3-Coder, нашу самую агентную модель кода на сегодняшний день. Qwen3-Coder доступен в нескольких размерах, но...
GLM-4.5-AWQ
👋 Присоединяйтесь к нашему сообществу Discord. 📖 Посетите технический блог GLM-4.5. 📍 Используйте сервисы API GLM-4.5 на платформе...
Qwen3-30B-A3B-Instruct-2507-GPTQ-Int8
Мы представляем обновленную версию режима без мышления Qwen3-30B-A3B под названием Qwen3-30B-A3B-Instruct-2507, включающую следующие ключевые улучшения: — Значительные улучшения...