Quantized using commit 95cfa72 of the dev branch of exllamav3. 2.25 bpw h6 63.375 GiB 3.00 bpw h6 83.800 GiB 4.00 bpw h6 111.018 GiB
Модальности:
Генерация текста
Задача: Генерация текста
Автор: MikeRoz
Теги: exllamav3, exl3
Лайков: 4 | Загрузок: 10
Описание основано на материалах HuggingFace. Перевод выполнен автоматически.