— Содержание — Обзор модели — Разрядность модели — Производительность модели — Краткое руководство — Цитирование — Базовая модель: Qwen/Qwen3-0.6B — Обучение: zhangsq-nju/EdgeRazor — Квантование: 4-битное для всех слоев внедрения, декодера и lm_head. Рекомендуется заранее убедиться, что EdgeRazor установлен для квантования активации веса. Предоставленные веса уже квантованы (quantizedweightsscalingbf16); чтобы включить активацию и квантование кэша KV, установитеtrustremotecode=True` в конфигурации модели. Если наш проект окажется полезным для ваших исследований, пожалуйста, цитируйте наши статьи ✏️:
Модальности:
Генерация текста
Области применения:
Диалог / чат
Задача: Генерация текста
Автор: zhangsq-nju
Теги: qwen3, edgerazor, quantization, conversational, custom_code, text-generation-inference, endpoints_compatible
Лайков: 6 | Загрузок: 56
Описание основано на материалах HuggingFace. Перевод выполнен автоматически.
