Это новая и более усовершенствованная версия starnatched/MemGPT. Я буду использовать DPO для дальнейшего повышения производительности, как только набор данных будет готов. Этот репозиторий содержит языковую модель с 7 миллиардами параметров, точно настроенную на основе mistralai/Mistral-7B-Instruct-v0.2. Эта модель специально разработана для вызова функций в MemGPT. Он демонстрирует производительность, сравнимую с GPT-4, когда дело доходит до работы с MemGPT. Вызов функций Предназначен для работы с MemGPT * Поддерживает средний контекст, обучен с использованием последовательностей до 8192. Эта модель предназначена для запуска на различных бэкэндах, таких как WebUI от oogabooga или llama.cpp. Чтобы запустить модель в WebUI, просто клонируйте официальный репозиторий WebUI с помощью git и запустите соответствующий скрипт для вашей операционной системы. Более подробная информация здесь. После установки WebUI вы сможете загрузить эту модель на вкладке модели. Затем выберите желаемую модель (в данном случае Starsnatched/MemGPT), и все готово к использованию бэкэнда. Когда у вас запущен WebUI или желаемый бэкэнд, вы можете открыть терминал/powershell и установить MemGPT с помощью pip3 install -U pymemgpt. Настройте MemGPT с помощью memgpt configure перед запуском MemGPT. В этой модели используется шаблон ChatML, это…
Модальности:
Генерация текста
Области применения:
Диалог / чат
Задача: Генерация текста
Автор: minchyeom
Теги: mistral, memgpt, function, function calling, conversational, en, text-generation-inference, endpoints_compatible
Лайков: 9 | Загрузок: 10
Описание основано на материалах HuggingFace. Перевод выполнен автоматически.
