Эта модель предоставляет модель HuggingFaceTB/SmolVLM-256M-Instruct в формате TFLite. Вы можете использовать эту модель с пользовательским конвейером Cpp или запустить с конвейером Python (см. пример COLAB ниже). Обратите внимание, что на данный момент AI Edge Torch VLMS не поддерживается в MediaPipe LLM Inference API, например модель qwen_vl, которая использовалась в качестве эталона для написания сценариев преобразования SmolVLM-256M-Instruct. Чтобы настроить SmolVLM для конкретной задачи, вы можете воспользоваться руководством по тонкой настройке. Затем вы можете преобразовать модель в TFlite, используя собственные скрипты smalvlm (см. Readme.md). Вы также можете проверить официальную документацию по генератору ai-edge-torch.
Модальности:
Генерация текста
Области применения:
Диалог / чат Следование инструкциям
Задача: Генерация текста
Автор: litert-community
Теги: tflite, chat
Лайков: 11 | Загрузок: 129
Описание основано на материалах HuggingFace. Перевод выполнен автоматически.
