Эта модель представляет собой двойную квантованную версию jais-13b-chat от core42. Цель состоит в том, чтобы запустить модель на машинах с плохим графическим процессором. Для задач высокого качества лучше использовать модель 13b, а не квантованную. Он успешно был протестирован на экземпляре Google Colab Pro T4. 4. Создайте стример (это необязательно. Если вы хотите генерировать тексты в виде потока, сделайте это, иначе это не имеет значения):
Модальности:
Генерация текста
Области применения:
Диалог / чат
Задача: Генерация текста
Автор: erfanvaredi
Теги: jais, English, Arabic, Decoder, Casual-lm, LLM, 4-bit, custom_code
Лайков: 6 | Загрузок: 15
Описание основано на материалах HuggingFace. Перевод выполнен автоматически.
