Requires: Transformers 4.33.0 or later, Optimum 1.12.0 or later, and AutoGPTQ 0.4.2 or later. If you are using PyTorch 2.0, you will need to install AutoGPTQ from source. Likewise if you have problems with the pre-built wheels, you should try building from source: TheBloke for README template. asyafiqe for v3-GPTQ inspiration.
Модальности:
Генерация текста
Области применения:
Диалог / чат
Задача: Генерация текста
Автор: daptheHuman
Теги: mistral, gptq, indonesia, conversational, id
Лайков: 2 | Загрузок: 10
Описание основано на материалах HuggingFace. Перевод выполнен автоматически.