Kodify-Nano-GGUF — версия GGUF модели MTSAIR/Kodify-Nano, оптимизированная для CPU/GPU-инференса и использования Ollama/llama.cpp. Легковесная LLM для решения задач по разработке кода со значительными преимуществами. Kodify-Nano-GGUF — GGUF-версия MTSAIR/Kodify-Nano, оптимизированная для вывода CPU/GPU с помощью Ollama/llama.cpp. Легкий LLM для задач разработки кода с минимальными требованиями к ресурсам. 1. Использование Docker 2. Локально (обеспечивает более быстрый ответ, чем Docker) > Важно: > — Убедитесь, что Docker установлен и работает > — Если порт 8985 занят, замените его на любой доступный порт и обновите конфигурацию плагина. Если вы изменили порт Docker с 8985, обновите config.json плагина: 1. Откройте любой файл в IDE. 2. Откройте боковую панель Kodify: — VS Code: Ctrl+L (Cmd+L на Mac). — JetBrains: Ctrl+J (Cmd+J на Mac). 3. Откройте файл config.json: — Способ 1: нажмите «Открыть настройки» (VS Code) или «Kodify Config» (JetBrains), затем перейдите в «Конфигурация» > «Настройки чата» > «Открыть файл конфигурации». — Способ 2: нажмите значок шестеренки (⚙️) на боковой панели Kodify. 4. Измените порт apiBase на вкладке AutocompleteModel и модели. 5. Сохраните файл (Ctrl+S или Файл > Сохранить). — KodifyNanoq4ks.gguf (сбалансированный) -…
Модальности:
Генерация текста
Области применения:
Диалог / чат
Задача: Генерация текста
Автор: MTSAIR
Теги: ggml, gguf, ru, en, endpoints_compatible, conversational
Лайков: 6 | Загрузок: 239
Описание основано на материалах HuggingFace. Перевод выполнен автоматически.
