В этом репозитории содержатся веса моделей для современной открытой модели Next Edit от Continue, Instinct. Instinct, тщательно настроенный на основе Qwen2.5-Coder-7B с учетом нашего набора данных реальных изменений кода, интеллектуально прогнозирует ваш следующий шаг, чтобы держать вас в потоке. Оллама: Мы выпустили квантование Instinct Q4KM GGUF для эффективного локального вывода. Попробуйте это с помощью интеграции Continue с Ollama или просто запустите ollama run nate/instinct. Вы также можете обслужить модель, используя любой из приведенных ниже вариантов, а затем подключить ее с помощью Продолжить. SGLang: python3 -m sglang.launchserver —model-path continueev/instinct —safetensors формата загрузки vLLM: vllm служат continueev/instinct —served-model-name Instinct —load-format Safetensors`
Модальности:
Генерация текста
Области применения:
Диалог / чат
Задача: Генерация текста
Автор: continuedev
Теги: qwen2, conversational, text-generation-inference, endpoints_compatible
Лайков: 69 | Загрузок: 134
Описание основано на материалах HuggingFace. Перевод выполнен автоматически.
