You need auto-gptq installed to run the following: pip install auto-gptq
Модальности:
Генерация текста
Области применения:
Диалог / чат
Задача: Генерация текста
Автор: casperhansen
Теги: mpt, Composer, MosaicML, llm-foundry, custom_code, text-generation-inference
Лайков: 2 | Загрузок: 24
Описание основано на материалах HuggingFace. Перевод выполнен автоматически.