Qwen3-4B-Instruct-2507_w8a8_g128_1.2.2_rkllm
My quant for Rock5B (RK3588 board) Author: @flylcw * 建议运行环境：RKLLM-Toolkit在1.2.x应该都可运行，NPU驱动版本需>v0.9.8 RKLLM-Toolkit version: v1.2.2 NPU driver: v0.9.8 Python: 3.11...
Метка: rk3588
ezrkllm-collection
Коллекция LLM, совместимых с чипами Rockchip, с использованием их набора инструментов rkllm. Этот репозиторий содержит преобразованные модели для...