flylcw/Qwen3-4B-Instruct-2507_w8a8_g128_1.2.2_rkllm - Каталог нейросетей
Генерация текста

flylcw/Qwen3-4B-Instruct-2507_w8a8_g128_1.2.2_rkllm

Добавлено:
flylcw/Qwen3-4B-Instruct-2507_w8a8_g128_1.2.2_rkllm

My quant for Rock5B (RK3588 board) Author: @flylcw * 建议运行环境:RKLLM-Toolkit在1.2.x应该都可运行,NPU驱动版本需>v0.9.8 RKLLM-Toolkit version: v1.2.2 NPU driver: v0.9.8 Python: 3.11 Quantization: w8a8g128 Output: single-file .rkllm artifact Modifications: quantization (w8a8g128), export to .rkllm format for RK3588 SBCs

Модальности:
Генерация текста

Области применения:
Следование инструкциям


Задача: Генерация текста
Автор: flylcw
Теги: rkllm, rk3588, rockchip, edge-ai, llm, qwen, text-generation-inference, en
Лайков: 4  |  Загрузок: 41

Открыть на HuggingFace →

Описание основано на материалах HuggingFace. Перевод выполнен автоматически.