Используйте load_model из репозитория FastChat или LongChat, чтобы загрузить модель (или API чата из FastChat). Для использования модели необходим патч обезьяны. Справочник по использованию: (LongChat) python3 eval.py —имя-модели-или-путь lmsys/longchat-13b-16k —темы задач (FastChat) python3 -m fastchat.serve.cli —model-path lmsys/longchat-13b-16k https://github.com/lm-sys/FastChat/blob/da0641e567cf93756b0978ab5a6b092e96f06240/fastchat/model/model_adapter.py#L429 Тип модели: longchat-13b-16k — чат-бот с открытым исходным кодом, обученный путем тонкой настройки llama-13b в общедоступном для пользователя формате. разговоры, собранные из ShareGPT с использованием метода конденсационного ротационного встраивания, описанного в блоге. Организации, разрабатывающие модель: Разработчики LongChat: Дачэн Ли, Рулин Шао, Аньзэ Се, Ин Шэн, Ляньминь Чжэн, Ион Стойка, Сюэчжэ Ма и Хао Чжан. Документы или ресурсы для получения дополнительной информации: https://github.com/DachengLi1/LongChat. Куда отправлять вопросы или комментарии по модели: https://github.com/DachengLi1/LongChat. Основное предполагаемое использование: основное использование longchat-13b-16k предназначен для исследовательских целей. Основные предполагаемые пользователи: Основными предполагаемыми пользователями модели являются исследователи в области обработки естественного языка, машин…
Модальности:
Генерация текста
Области применения:
Диалог / чат
Задача: Генерация текста
Автор: lmsys
Теги: llama, text-generation-inference
Лайков: 134 | Загрузок: 19,992
Описание основано на материалах HuggingFace. Перевод выполнен автоматически.
