GPTQ 4-bit no actor version for compatibility that works in textgen-webui Generated by using scripts from https://gitee.com/yhyu13/llama_-tools Original weight : https://huggingface.co/JosephusCheung/Guanaco
Модальности:
Генерация текста
Задача: Генерация текста
Автор: Yhyu13
Теги: llama, text-generation-inference, endpoints_compatible
Лайков: 2 | Загрузок: 8
Описание основано на материалах HuggingFace. Перевод выполнен автоматически.