Эта модель идеально настроена для вызова функций. — Формат метаданных функции такой же, как и в OpenAI. — Модель подходит для коммерческого использования. — Версия GGUF находится в ветке gguf. — AWQ ожидает решения проблем с маской внимания для количественного анализа. Шаблон Runpod в один клик здесь. Необходимо добавить токен доступа HuggingFace Hub (HUGGINGFACEHUB_TOKEN) к переменным среды, поскольку это закрытая модель. Полные сценарии вывода можно приобрести здесь: — Легко форматируйте подсказки с помощью tokenizer.applychatformat (начиная с функций в формате openai и списка сообщений). — Автоматизируйте перехват, обработку и объединение вызовов функций. Для более простого применения подсказки вы можете настроить следующим образом: Эту модель можно использовать в коммерческих целях для вывода или для дальнейшей точной настройки и вывода. Пользователи не имеют права переиздавать или перепродавать эту модель в той же или производной форме (включая доработки). Модель большого языка Mistral-7B-Instruct-v0.2 (LLM) представляет собой улучшенную версию Mistral-7B-Instruct-v0.1 с точными настройками. Для получения полной информации об этой модели, пожалуйста, прочитайте нашу статью и опубликуйте сообщение в блоге. Чтобы использовать точную настройку инструкций, ваша подсказка должна быть…
Модальности:
Генерация текста
Области применения:
Диалог / чат Вызов функций (Tool use) Следование инструкциям
Задача: Генерация текста
Автор: Trelis
Теги: mistral, finetuned, function calling, function call, function-calling, conversational, text-generation-inference, endpoints_compatible
Лайков: 10 | Загрузок: 18
Описание основано на материалах HuggingFace. Перевод выполнен автоматически.
