—————————: | :—————: | :—————-: | :—————-: | :————————————————————: | Вы можете пообщаться с DeepSeek-Coder-V2 на официальном сайте DeepSeek: coder.deepseek.com. Мы также предоставляем OpenAI-совместимый API на платформе DeepSeek: Platform.deepseek.com. Зарегистрируйтесь и получите более миллиона бесплатных токенов. И вы также можете платить по мере использования по выгодной цене. Здесь мы приводим несколько примеров использования модели DeepSeek-Coder-V2-Lite. Если вы хотите использовать DeepSeek-Coder-V2 в формате BF16 для вывода моделей, потребуется графический процессор 80 ГБ8.** Вы можете напрямую использовать трансформаторы Huggingface для вывода моделей. Полный шаблон чата можно найти в файле tokenizerconfig.json, расположенном в репозитории модели Huggingface. Чтобы использовать vLLM для вывода моделей, объедините этот запрос на включение в свою кодовую базу vLLM: https://github.com/vllm-project/vllm/pull/4650. Этот репозиторий кода лицензируется по лицензии MIT. Использование моделей DeepSeek-Coder-V2 Base/Instruct регулируется Лицензией на модель. Серия DeepSeek-Coder-V2 (включая Base и Instruct) поддерживает коммерческое использование. Если у вас есть вопросы, задайте их или…
Модальности:
Генерация текста
Области применения:
Диалог / чат Генерация кода
Задача: Генерация текста
Автор: TechxGenus
Теги: deepseek_v2, conversational, custom_code, text-generation-inference, endpoints_compatible, 4-bit, awq
Лайков: 4 | Загрузок: 191
Описание основано на материалах HuggingFace. Перевод выполнен автоматически.
