Эта модель идеально настроена для вызова функций. — Формат метаданных функции такой же, как и в OpenAI. — Модель подходит для коммерческого использования. — См. ветку gptq для модели GPTQ. — AWQ и GGUF доступны по запросу после покупки. Шаблон Runpod в один клик, TGI API с EETQ (8 бит) здесь. Необходимо добавить токен доступа HuggingFace Hub (HUGGINGFACEHUBTOKEN) к переменным среды, поскольку это закрытая модель. Шаблон Runpod в один клик, API vLLM с AWQ (4 бита) здесь. Необходимо добавить токен доступа HuggingFace Hub (HUGGINGFACEHUBTOKEN) к переменным среды, поскольку это закрытая модель. Полные сценарии вывода можно приобрести здесь: — Легко форматируйте подсказки с помощью tokenizer.applychatformat (начиная с функций в формате openai и списка сообщений). — Автоматизируйте перехват, обработку и объединение вызовов функций. Для более простого применения подсказки можно настроить следующим образом: Эту модель можно использовать в коммерческих целях для вывода в соответствии с условиями лицензии Yi или для дальнейшей тонкой настройки и вывода. Пользователи не имеют права переиздавать или перепродавать эту модель в той же или производной форме (включая доработки). — 09.12.2023: 🔥 Вариант Tigerbot имеет…
Модальности:
Генерация текста
Области применения:
Диалог / чат Вызов функций (Tool use)
Задача: Генерация текста
Автор: Trelis
Теги: llama, yi, long context, commercial use, gptq, function-calling, function calling, conversational
Лайков: 5 | Загрузок: 0
Описание основано на материалах HuggingFace. Перевод выполнен автоматически.
