lmstudio-community/DeepSeek-Coder-V2-Lite-Instruct-GGUF - Каталог нейросетей
Генерация текста

lmstudio-community/DeepSeek-Coder-V2-Lite-Instruct-GGUF

Добавлено:
lmstudio-community/DeepSeek-Coder-V2-Lite-Instruct-GGUF

👾 Программа хайлайтов моделей LM Studio Community. Выделение новых и заслуживающих внимания моделей сообществом. Присоединяйтесь к обсуждению в Discord. Создатель модели: DeepSeek Исходная модель: DeepSeek-Coder-V2-Lite-Instruct Квантование GGUF: предоставлено bartowski на основе версии llama.cpp b3166. Требуется LM Studio 0.2.25, обновление можно скачать здесь: https://lmstudio.ai Это совершенно новая модель Mixture of Export (MoE) от DeepSeek, специализирующаяся на инструкциях по кодированию. Эта модель хорошо работает в ряде тестов кодирования и ее следует использовать как для выполнения инструкций, так и для завершения кода. Самый эффективный шаблон — это предустановленный Deepseek Coder в вашей LM Studio. «Официальный» шаблон, похоже, имеет тенденцию генерировать китайский язык, однако, если вы хотите его использовать, вы можете настроить его, выбрав предустановку «Пустой пресет LM Studio» в вашей LM Studio, а затем: Эта модель представляет собой архитектуру MoE, использующую общие веса 16B и активированную только 2,4B для достижения превосходной скорости вывода. DeepSeek-Coder-V2 основан на модели DeepSeek-V2, дополнительно обученной на 6 триллионах высококачественных токенов кодирования для улучшения кодирования и математических рассуждений. Более подробную информацию можно найти здесь:…

Модальности:
Генерация текста

Области применения:
Диалог / чат Генерация кода Следование инструкциям


Задача: Генерация текста
Автор: lmstudio-community
Теги: gguf, endpoints_compatible, imatrix, conversational
Лайков: 78  |  Загрузок: 14,013

Открыть на HuggingFace →

Описание основано на материалах HuggingFace. Перевод выполнен автоматически.