wojtab/llava-13b-v0-4bit-128g

4-битный квант ламы, часть llava https://github.com/haotian-liu/LLaVA https://huggingface.co/liuhaotian/LLaVA-13b-delta-v0 на https://github.com/oobabooga/GPTQ-for-LLaMa Ветка CUDA GPTQ (коммит 57a2629) СЕЙЧАС ВЫ МОЖЕТЕ ЗАПУСТИТЬ ЕГО TEXT-GENERATION-WEBUI с расширением llava (см.: https://github.com/oobabooga/text-generation-webui/tree/main/extensions/llava)

Модальности:
Генерация текста

Задача: Генерация текста
Автор: wojtab
Теги: llama, endpoints_compatible
Лайков: 80  |  Загрузок: 799

Открыть на HuggingFace →

Описание основано на материалах HuggingFace. Перевод выполнен автоматически.