Этот репозиторий включает квантованные модели GGUF для нашей модели Octo-planner на NexaAIDev/octopus-planning. Чтобы запустить модели, загрузите их на свой локальный компьютер с помощью git clone или Hugging Face Hub. Поскольку наши модели не были загружены на сервер Ollama, загрузите модели и вручную импортируйте их в Ollama, выполнив следующие действия: 1. Установите Ollama на свой локальный компьютер. Вы также можете следовать руководству из репозитория Ollama GitHub 4. В файле модели включите оператор FROM с путем к вашей локальной модели и параметрами по умолчанию:
Модальности:
Генерация текста
Области применения:
Диалог / чат
Задача: Генерация текста
Автор: NexaAI
Теги: gguf, phi3, conversational, custom_code, en, endpoints_compatible
Лайков: 4 | Загрузок: 739
Описание основано на материалах HuggingFace. Перевод выполнен автоматически.
