The model does not currently support systemprompt because it uses mistral’s chattemplate, and the next release is in training to switch to the chatml template to support systemprompt. systemprompt can be implemented if you manually change the chat_template, but the After testing, this seems to degrade the model performance.
Модальности:
Генерация текста
Области применения:
Диалог / чат
Задача: Генерация текста
Автор: Liangmingxin
Теги: mistral, conversational, text-generation-inference, endpoints_compatible
Лайков: 3 | Загрузок: 62
Описание основано на материалах HuggingFace. Перевод выполнен автоматически.