Карта этой модели содержит FastVLM-0.5B, преобразованный для LiteRT, который готов к использованию на устройстве при условии наличия лицензии. FastVLM был представлен в FastVLM: эффективное кодирование машинного зрения для языковых моделей машинного зрения. (CVPR 2025), эта модель демонстрирует улучшение времени до первого токена (TTFT) и производительности и подходит для развертывания периферийных устройств. Модель поддерживается на процессорах, графических процессорах и процессорах Qualcomm. Более подробную информацию об интеграции с Qualcomm можно найти в этом сообщении блога. Отказ от ответственности: эта модель, преобразованная для LiteRT, лицензируется в соответствии с лицензионным соглашением Apple Machine Learning Research Model. Модель преобразуется и квантуется из веса модели PyTorch в формат LiteRT/Tensorflow-Lite (без переобучения или дальнейшей настройки). Вы можете установить Google AI Edge Gallery через открытую бета-версию в магазине Play Store или установить APK с Github. Чтобы собрать демонстрационное приложение из исходного кода, следуйте инструкциям из репозитория GitHub. Убедитесь, что в вашем файле Gradle есть необходимая зависимость. Попробуйте запустить эту модель на NPU, используя соответствующий файл Litetlm и установив для бэкэнда EngineConfig и VisionBackend значение NPU. Чтобы проверить, поддерживается ли NPU вашего телефона, см. это руководство. К…
Модальности:
Генерация текста
Задача: Генерация текста
Автор: litert-community
Теги: litert-lm, ml-fastvlm, litert, litertlm
Лайков: 10 | Загрузок: 835
Описание основано на материалах HuggingFace. Перевод выполнен автоматически.
