This is a Exl2 quantized version of Pygmalion-2-13b-SuperCOT — main: 4 bits per weight — 5.0bpw: 5 bits per weight — 6.0bpw: 6 bits per weight
Модальности:
Генерация текста
Задача: Генерация текста
Автор: royallab
Теги: llama, en, endpoints_compatible
Лайков: 2 | Загрузок: 3
Описание основано на материалах HuggingFace. Перевод выполнен автоматически.