— Учебная операционная система QLoRA в среде Windows, Python 3.11, CUDA 11.8 на 24 ГБ видеопамяти: Знайте проблему: загрузите 4-битную версию в oobabooga/text-generation-webui, выдайте бессмысленную подсказку, используйте ExLlama вместо AutoGPTQ
Модальности:
Генерация текста
Задача: Генерация текста
Автор: Nekochu
Теги: gguf, llama, generated_from_trainer, fr, en, text-generation-inference, endpoints_compatible
Лайков: 11 | Загрузок: 1,288
Описание основано на материалах HuggingFace. Перевод выполнен автоматически.