AXERA-TECH/Qwen3-4B

Эта версия Qwen3-4B была преобразована для запуска на Axera NPU с использованием квантования w8a16. Для тех, кто заинтересован в преобразовании модели, вы можете попробовать экспортировать axmodel через оригинальный репозиторий : https://huggingface.co/Qwen/Qwen3-4B Pulsar2 Link, How to Convert LLM from Huggingface to axmodel Convert the original Huggingface Qwen3-4B to axmodel, а затем применить квантование w8a16, чтобы получить окончательную axmodel для среды выполнения axllm. 如果没有编译环境，请到： https://github.com/AXERA-TECH/ax-llm/actions?query=branch:axllm 下载 最新 CI 导出的可执行程序（axllm），然后：

Модальности:
Генерация текста

Задача: Генерация текста
Автор: AXERA-TECH
Теги: Qwen, Qwen3, Int8, en, endpoints_compatible
Лайков: 3  |  Загрузок: 41

Открыть на HuggingFace →

Описание основано на материалах HuggingFace. Перевод выполнен автоматически.