DeepSeek-V2.5 — это обновленная версия, сочетающая в себе DeepSeek-V2-Chat и DeepSeek-Coder-V2-Instruct. Новая модель объединяет общие возможности и возможности кодирования двух предыдущих версий. Для получения дополнительной информации посетите страницу DeepSeek-V2. DeepSeek-V2.5 лучше соответствует предпочтениям человека и был оптимизирован в различных аспектах, включая написание и инструкции: Чтобы использовать DeepSeek-V2.5 в формате BF16 для вывода, требуются графические процессоры 80 ГБ8. ** Вы можете напрямую использовать трансформаторы Huggingface для вывода модели. Полный шаблон чата можно найти в файле tokenizerconfig.json, расположенном в репозитории модели Huggingface. Чтобы использовать vLLM для вывода модели, объедините этот запрос на включение в свою кодовую базу vLLM: https://github.com/vllm-project/vllm/pull/4650. Вызов функций позволяет модели вызывать внешние инструменты для расширения ее возможностей. json { «name»: «getcurrentweather», «description»: «Получить текущую погоду в заданном месте», «parameters»: { «type»: «object», «properties»: { «location»: { «type»: «string», «description»: «Город и штат, например Сан-Франциско, Калифорния» }, «unit»: { «type»: «string», «enum»: [ «celsius», «по Фаренгейту»]…
Модальности:
Генерация текста
Области применения:
Диалог / чат
Задача: Генерация текста
Автор: deepseek-ai
Теги: deepseek_v2, conversational, custom_code, text-generation-inference, endpoints_compatible
Лайков: 733 | Загрузок: 84,959
Описание основано на материалах HuggingFace. Перевод выполнен автоматически.
