Chinese-Alpaca-7B-GPTQ основан на модели Chinese-LLaMA-Alpaca и был квантован с использованием GPTQ для более быстрого вывода с меньшими требованиями к памяти. Для калибровки мы использовали bigscience-data/rootszh-cnwikipedia. Чтобы использовать Chinese-Alpaca-7B-GPTQ, вам потребуется использовать репозиторий GPTQ-for-LLaMa для загрузки модели. Мы хотели бы поблагодарить первоначальных авторов вышеупомянутых проектов за их вклад в сообщество НЛП.
Модальности:
Генерация текста
Задача: Генерация текста
Автор: keyfan
Теги: llama, endpoints_compatible
Лайков: 10 | Загрузок: 11
Описание основано на материалах HuggingFace. Перевод выполнен автоматически.
