icybee/fast_lora_chat_v1_sunlight

pip3 install fschat git clone https://github.com/huggingface/transformers.git cd Transformers git checkout 41a2f3529c6b56866c317031375ffd3e7b8bea01 pip install . python3 -m fastchat.serve.cli —имя-модели fastlorachatv1sunlight/ —num-gpus 4

Модальности:
Генерация текста

Области применения:
Диалог / чат

Задача: Генерация текста
Автор: icybee
Теги: llama, text-generation-inference, endpoints_compatible
Лайков: 6 | Загрузок: 8

Открыть на HuggingFace →

Описание основано на материалах HuggingFace. Перевод выполнен автоматически.

Похожие модели (Генерация текста)

Генерация текста

instructlab/granite-7b-lab

[*] Номера для моделей, отличных от Merlinite-7b-lab, Granite-7b-lab и Labradorite-13b, взяты из lmsys/chatbot-arena-leaderboard LAB: Крупномасштабное выравнивание для чат-ботов...

Генерация текста

NeuroSenko/Qwen3-Coder-Next-exl3

> Примечание. В exllamav3 v0.0.21 были исправлены конвейеры вывода Qwen3-Next. Эти кванты по-прежнему работают нормально, но с версией...

Генерация текста

tastypear/NSFW_13B_sft-GGUF

Сравнение Baichuan-13B-Chat и NSFW13Bsft. (CMMLU с нулевым выстрелом) (Кстати, Baichuan-13B-Chat получает 50,43 с одним выстрелом, что кажется намного...

Генерация текста

radames/phi-2-quantized

Модель генерации текста Модальности:Генерация текста Задача: Генерация текста Автор: radames Теги: gguf, phi-msft, custom_code, endpoints_compatibleЛайков: 11 | Загрузок:...