Базовая модель microsoft/Phi-3-mini-4k-instruct в настоящее время использует новейшие трансформаторы и фонарик dev-версии. Кроме того, ему необходим параметрtrustremotecode=True в качестве аргумента функции from_pretrained. В этом справочнике показано, как настроить langchain llm с помощью этой модели Lora phi-3.
Модальности:
Генерация текста
Области применения:
Диалог / чат Следование инструкциям
Задача: Генерация текста
Автор: Mike0307
Теги: phi3, trl, sft, conversational, custom_code, zh, text-generation-inference, endpoints_compatible
Лайков: 6 | Загрузок: 12
Описание основано на материалах HuggingFace. Перевод выполнен автоматически.