Qwen3-4B-int8-int4-unsloth
— Разработано: Metascroy — Лицензия: apache-2.0 — Точная настройка на основе модели: unsloth/Qwen3-4B Эта модель qwen3 была обучена...
Метка: executorch
react-native-executorch-qwen-3
В этом репозитории хранятся модели Qwen 3 для библиотеки React Native ExecuTorch. Он включает в себя неквантованную и...
Llama-Guard-3-1B-INT4
(Примечание. Это экспортированная модель INT4 executorch. Чтобы узнать больше о том, как запустить эту модель на периферийных устройствах,...
SmolLM3-3B-INT8-INT4
HuggingFaceTB/SmolLM3-3B квантуется с использованием Torchao с 8-битными вложениями и 8-битными динамическими активациями с 4-битными линейными весами (INT8-INT4). Затем...