using https://github.com/oobabooga/GPTQ-for-LLaMa CUDA branch
Модальности:
Генерация текста
Задача: Генерация текста
Автор: Hyunel
Теги: llama, endpoints_compatible
Лайков: 2 | Загрузок: 8
Описание основано на материалах HuggingFace. Перевод выполнен автоматически.