Эта модель идеально настроена для вызова функций. — Формат метаданных функции такой же, как и в OpenAI. — Модель подходит для коммерческого использования. — GGUF пока нет, так как я жду файл tokenizer.model из базового репозитория. Шаблоны Runpod в один клик: (Необходимо добавить токен доступа HuggingFace Hub (HUGGINGFACEHUB_TOKEN) к переменным среды, поскольку это закрытая модель.) — TGI 8bit EETQ. — Полные сценарии вывода TGI API AWQ можно приобрести здесь: — Легко форматировать подсказки с помощью tokenizer.applychatformat (начиная с функций в формате openai и списка сообщений) — Автоматизировать перехват, обработку и связывание вызовов функций. Для более простого применения подсказки вы можете настроить следующим образом: Эту модель можно использовать в коммерческих целях для вывода в соответствии с условиями лицензии DeepSeek или для дальнейшей тонкой настройки и вывода. Пользователи не имеют права переиздавать или перепродавать эту модель в той же или производной форме (включая доработки). Оригинальная карточка модели приведена ниже: [🏠Домашняя страница] | [🤖 Чат с DeepSeek LLM] | [Раздор] | [Wechat(微信)] Представляем DeepSeek LLM, продвинутую языковую модель, содержащую 67 миллиардов параметров. Оно было обучено…
Модальности:
Генерация текста
Области применения:
Диалог / чат Вызов функций (Tool use)
Задача: Генерация текста
Автор: Trelis
Теги: llama, function-calling, function calling, conversational, text-generation-inference, endpoints_compatible
Лайков: 8 | Загрузок: 0
Описание основано на материалах HuggingFace. Перевод выполнен автоматически.