> [!Note] > Этот репозиторий соответствует моделям Gemma 3. Вы можете опробовать ее с помощью: > — Галерея Google AI Edge для Android через открытую бета-версию в магазине Play Store > — Галерея Google AI Edge для Android через GitHub > — Google AI Studio Эта модель предоставляет несколько вариантов google/Gemma-3-1B-IT, готовых к развертыванию на Android с использованием стека LiteRT (fka TFLite) и API вывода MediaPipe LLM. Отказ от ответственности: целевой поверхностью развертывания для моделей LiteRT является Android/iOS/Web, и стек оптимизирован для производительности на этих целях. Опробовать систему в Colab — это более простой способ ознакомиться со стеком LiteRT, с оговоркой, что производительность (память и задержка) в Colab может быть намного хуже, чем на локальном устройстве. Точная настройка Gemma 3 1B и развертывание с помощью LiteRT или Mediapipe LLM Inference API. Чтобы создать демонстрационное приложение из исходного кода, следуйте инструкциям из репозитория GitHub. Следуйте инструкциям LitRT LM, чтобы создать среду выполнения LiteRT LM с открытым исходным кодом для запуска моделей LiteRT. Клонируйте репозиторий примеров MediaPipe и следуйте инструкциям по созданию примера приложения LLM Inference для iOS с помощью XCode. Запустите приложение через симулятор iOS или…
Модальности:
Генерация текста
Области применения:
Диалог / чат
Задача: Генерация текста
Автор: litert-community
Теги: litert-lm, chat
Лайков: 548 | Загрузок: 28,879
Описание основано на материалах HuggingFace. Перевод выполнен автоматически.
