wojtab/llava-7b-v0-4bit-128g - Каталог нейросетей
Генерация текста

wojtab/llava-7b-v0-4bit-128g

Добавлено:
wojtab/llava-7b-v0-4bit-128g

4-битный квант ламы, часть llava https://github.com/haotian-liu/LLaVA https://huggingface.co/liuhaotian/LLaVA-7b-delta-v0 на https://github.com/oobabooga/GPTQ-for-LLaMa ветке CUDA GPTQ (коммит 57a2629) (многомодальность нет, текстовый вывод есть) жду этого пиара: https://github.com/oobabooga/text-generation-webui/pull/1741

Модальности:
Генерация текста


Задача: Генерация текста
Автор: wojtab
Теги: llama, endpoints_compatible
Лайков: 12  |  Загрузок: 13

Открыть на HuggingFace →

Описание основано на материалах HuggingFace. Перевод выполнен автоматически.