LLaMA weights(llama-7b-hf) + Vicuna weights (vicuna-7b-delta-v1.1) = Vicuna-7B pip3 install fschat pip3 install git+https://github.com/huggingface/transformers sudo apt install git git-lfs git clone https://huggingface.co/myaniu/Vicuna-7B python3 -m fastchat.serve.cli —model-path /path/to/Vicuna-7B
Модальности:
Генерация текста
Задача: Генерация текста
Автор: myaniu
Теги: llama, text-generation-inference, endpoints_compatible
Лайков: 3 | Загрузок: 12
Описание основано на материалах HuggingFace. Перевод выполнен автоматически.