Эта модель идеально настроена для вызова функций. — Формат метаданных функции такой же, как и в OpenAI. — Модель подходит для коммерческого использования. — Версия GGUF находится в ветке gguf. > В соответствующих ветках доступны модели AWQ и GPTQ, но есть ошибки, указывающие на обе. Поэтому рекомендуется использовать основную ветку с точностью bf16 или битами и байтами nf-4. Шаблон Runpod в один клик здесь. Вы должны добавить токен доступа HuggingFace Hub (HUGGINGFACEHUB_TOKEN) к переменным среды, поскольку это закрытая модель. Полные сценарии вывода можно приобрести здесь: — Легко форматируйте подсказки с помощью tokenizer.applychatformat (начиная с функций в формате openai и списка сообщений). — Автоматизируйте перехват, обработку и объединение вызовов функций. Для более простого применения подсказки можно настроить следующим образом: Эту модель можно использовать в коммерческих целях для вывода в соответствии с условиями лицензии Yi или для дальнейшей тонкой настройки и вывода. Пользователи не имеют права переиздавать или перепродавать эту модель в той же или производной форме (включая доработки). Это доработанные версии моделей контекстной длины Yi 200k с точной настройкой чата: — Контролируемая точная настройка…
Модальности:
Генерация текста
Области применения:
Диалог / чат Вызов функций (Tool use)
Задача: Генерация текста
Автор: Trelis
Теги: llama, yi, long context, commercial use, gguf, function-calling, function calling, conversational
Лайков: 5 | Загрузок: 0
Описание основано на материалах HuggingFace. Перевод выполнен автоматически.
