hugyllama/llama-30b объединены с serpdotai/llama-oasst-lora-30B, квантованы до 4 бит с размером группы 128g. В моем репозитории также есть 16-битные версии и версии без группового размера.
Модальности:
Генерация текста
Задача: Генерация текста
Автор: Peeepy
Теги: llama, endpoints_compatible
Лайков: 4 | Загрузок: 7
Описание основано на материалах HuggingFace. Перевод выполнен автоматически.