Это объединенная модель https://huggingface.co/cognitivecomputations/dolphin-2_6-mistral-7b и функции sft, вызывающей lora здесь. Эта модель сопровождается pr на textgen-webui, чтобы включить возможность вызова функций, таких как GPT: Добавить возможность вызова функций в расширение openai. Эту модель рекомендуется использовать вместо моего варианта ph-2, поскольку эта модель имеет больше возможностей для заземления при следующем вызове функции. Эта модель, безусловно, моя лучшая функция вызывая модель, она может достичь 10/10 успеха в кулинарной книге вызова функции openai. Вызов функции заключен в простой тег xml для упрощения идентификации. Или, если вы хотите добросовестно сохранить одинарные кавычки, в которых заключено значение аргумента (где openai делает это так, что приводит к кратковременному сбою json.loads в исходном jsonstr), используйте для спасения ast.literaleval. Будем надеяться, что эта модель сможет заменить приложения (например, memgpt), которым требуется возможность вызова функций от LLM. Ответ функции помещен между ними, чтобы его можно было идентифицировать как результат вызова функции (который можно оценить за сценой, и его результат в принципе должен интерпретироваться как часть пользовательского ввода), который затем будет обработан…
Модальности:
Генерация текста
Задача: Генерация текста
Автор: Yhyu13
Теги: mistral, text-generation-inference, endpoints_compatible
Лайков: 9 | Загрузок: 10
Описание основано на материалах HuggingFace. Перевод выполнен автоматически.
