Он содержит необходимые файлы для запуска LLaVA-1.6 34B на SGLang. Вы можете запустить сервер с помощью следующей команды: python -m sglang.launchserver —model-path dillonlaird/hf-llava-v1.6-34b —port 30000` Кажется, при использовании интерфейса sglang возникают проблемы с форматированием чата, поэтому я рекомендую напрямую запросить сервер и отформатировать строку самостоятельно: Тип модели: LLaVA — это чат-бот с открытым исходным кодом, обученный путем тонкой настройки LLM на мультимодальном режиме. данные, следующие за инструкциями. Это авторегрессивная языковая модель, основанная на архитектуре преобразователя. Базовый LLM: NousResearch/Nous-Hermes-2-Yi-34B Бумага или ресурсы для получения дополнительной информации: https://llava-vl.github.io/ Куда отправлять вопросы или комментарии по модели: https://github.com/haotian-liu/LLaVA/issues Основное предполагаемое использование: Основное использование LLaVA — исследования крупных мультимодальных моделей и чат-ботов. Основные предполагаемые пользователи. Основными предполагаемыми пользователями модели являются исследователи и любители компьютерного зрения, обработки естественного языка, машинного обучения и искусственного интеллекта. — 558 тыс. отфильтрованных пар изображение-текст из LAION/CC/SBU с субтитрами BLIP. — 158 КБ мультимодальных данных, генерируемых GPT, следующих за инструкциями. — 500 тысяч…
Модальности:
Генерация текста
Области применения:
Диалог / чат
Задача: Генерация текста
Автор: dillonlaird
Теги: llava, conversational
Лайков: 6 | Загрузок: 5
Описание основано на материалах HuggingFace. Перевод выполнен автоматически.
