Qwen3-4B-Instruct-2507_w8a8_g128_1.2.2_rkllm
My quant for Rock5B (RK3588 board) Author: @flylcw * 建议运行环境:RKLLM-Toolkit在1.2.x应该都可运行,NPU驱动版本需>v0.9.8 RKLLM-Toolkit version: v1.2.2 NPU driver: v0.9.8 Python: 3.11...
My quant for Rock5B (RK3588 board) Author: @flylcw * 建议运行环境:RKLLM-Toolkit在1.2.x应该都可运行,NPU驱动版本需>v0.9.8 RKLLM-Toolkit version: v1.2.2 NPU driver: v0.9.8 Python: 3.11...
Коллекция LLM, совместимых с чипами Rockchip, с использованием их набора инструментов rkllm. Этот репозиторий содержит преобразованные модели для...