Это модель phi-4, преобразованная в формат OpenVINO™ IR (промежуточное представление) с весами, сжатыми в INT4 с помощью NNCF. Сжатие веса выполнялось с использованием nncf.compressweights со следующими параметрами: OpenVINO версии 2025.1.0 и выше Optimum Intel 1.24.0 и выше 1. Установите пакеты, необходимые для использования интеграции Optimum Intel с бэкендом OpenVINO: Дополнительные примеры и возможные оптимизации см. в разделе Вывод с Optimum Intel. Дополнительные примеры использования GenAI можно найти в документах и примерах библиотеки OpenVINO GenAI. Более подробные примеры использования можно найти в записных книжках OpenVINO: оригинальная модель распространяется по лицензии MIT. Более подробную информацию можно найти в phi-4. Intel стремится уважать права человека и избегать причинения или содействия неблагоприятному воздействию на права человека. См. Глобальные принципы Intel в области прав человека. Продукты и программное обеспечение Intel предназначены только для использования в приложениях, которые не вызывают или не способствуют неблагоприятному воздействию на права человека.
Модальности:
Генерация текста
Области применения:
Генерация кода Математика Диалог / чат
Задача: Генерация текста
Автор: OpenVINO
Теги: openvino, phi3, phi, nlp, math, code, chat, conversational
Лайков: 3 | Загрузок: 73
Описание основано на материалах HuggingFace. Перевод выполнен автоматически.
