Создатель модели: TinyLlama Оригинальная модель: TinyLlama/TinyLlama-1.1B-Chat-v1.0 Это модель TinyLlama/TinyLlama-1.1B-Chat-v1.0, преобразованная в формат OpenVINO™ IR (промежуточное представление) с весами, сжатыми до INT4 NNCF. Сжатие веса выполнялось с использованием nncf.compressweights со следующими параметрами: OpenVINO версии 2025.4.0 и выше Optimum Intel 1.27.0 и выше 1. Установите пакеты, необходимые для использования интеграции Optimum Intel с бэкендом OpenVINO: Дополнительные примеры и возможные оптимизации см. в Руководстве OpenVINO Large Language Model Inference. Дополнительные примеры использования GenAI можно найти в документах и примерах библиотеки OpenVINO GenAI. Оригинальная модель распространяется под лицензией apache-2.0. Более подробную информацию можно найти в TinyLlama/TinyLlama-1.1B-Chat-v1.0. Intel стремится уважать права человека и избегать причинения или содействия неблагоприятному воздействию на права человека. См. Глобальные принципы Intel в области прав человека. Продукты и программное обеспечение Intel предназначены только для использования в приложениях, которые не вызывают или не способствуют неблагоприятному воздействию на права человека.
Модальности:
Генерация текста
Области применения:
Диалог / чат
Задача: Генерация текста
Автор: OpenVINO
Теги: openvino, llama, conversational, endpoints_compatible
Лайков: 3 | Загрузок: 3,218
Описание основано на материалах HuggingFace. Перевод выполнен автоматически.
