См. ту же тонкую настройку для Llama2-7B-Chat: https://huggingface.co/nlpulse/llama2-7b-chat-englishquotes https://github.com/nlpulse-io/samplecodes/tree/main/fine-tuning/peftquantization_4bits/gptj-6b Как сделать LLM еще более доступными с помощью bitsandbytes, 4-битной квантизации и QLoRA
Модальности:
Генерация текста
Задача: Генерация текста
Автор: nlpulse
Теги: gptj, en, endpoints_compatible
Лайков: 2 | Загрузок: 11
Описание основано на материалах HuggingFace. Перевод выполнен автоматически.