> Это форк t5-11b, реализующий собственный handler.py в качестве примера использования t5-11b с конечными точками вывода на одном NVIDIA T4. Конечные точки Hugging Face Inference можно использовать с HTTP-клиентом на любом языке. Мы будем использовать Python и библиотеку запросов для отправки наших запросов. (сделайте запросы на установку pip, которые у вас установлены)
Модальности:
Генерация текста
Задача: Генерация текста
Автор: philschmid
Теги: t5, text2text-generation, endpoints-template, en, fr, ro, de, text-generation-inference
Лайков: 6 | Загрузок: 19
Описание основано на материалах HuggingFace. Перевод выполнен автоматически.
