hugyllama/llama-13b + kaiokendev/SuperCOT-LoRA/13b/gpu/cutoff-2048 CUDAVISIBLEDEVICES=0 python llama.py c4 —wbits 4 —true-sequential —act-order —groupsize 128
Модальности:
Генерация текста
Задача: Генерация текста
Автор: ausboss
Теги: llama, text-generation-inference, endpoints_compatible
Лайков: 16 | Загрузок: 14
Описание основано на материалах HuggingFace. Перевод выполнен автоматически.