Этот LoRA обучался в течение 3 эпох и был преобразован в int4 (4 бита) с помощью метода GPTQ. Используйте версию модели Safetensors, версия pt — это старая версия квантования, которая больше не поддерживается и будет удалена в будущем. Дополнительную информацию смотрите в репозитории ниже. Недавние коммиты GPTQ внесли критические изменения в загрузку модели, и вам следует использовать этот форк для стабильной работы https://github.com/oobabooga/GPTQ-for-LLaMa Были добавлены новые веса. Старая версия .pt больше не поддерживается и заменена файлом Safetensors размером 128 групп. Чтобы использовать его, обновите GPTQ до последней версии. Дата модели LLaMA проходила обучение в декабре. 2022 г. и февраль 2023 г. Тип модели LLaMA — это авторегрессионная языковая модель, основанная на архитектуре преобразователя. Модель поставляется в разных размерах: параметры 7В, 13В, 33В и 65В. Документ или ресурсы для получения дополнительной информации. Дополнительную информацию можно найти в документе «LLaMA, открытые и эффективные базовые языковые модели», доступном по адресу https://research.facebook.com/publications/llama-open-and-efficient-foundation-language-models/. Подробности цитирования https://research.facebook.com/publications/llama-open-and-efficient-foundation-language-models/ Где…
Модальности:
Генерация текста
Задача: Генерация текста
Автор: elinas
Теги: llama, alpaca, gptq, text-generation-inference, endpoints_compatible
Лайков: 40 | Загрузок: 16
Описание основано на материалах HuggingFace. Перевод выполнен автоматически.
