askmyteapot/GPT4-x-AlpacaDente2-30b-4bit - Каталог нейросетей
Генерация текста

askmyteapot/GPT4-x-AlpacaDente2-30b-4bit

Добавлено:
askmyteapot/GPT4-x-AlpacaDente2-30b-4bit

Использование comit 3c16fd9 из вилки GPTQ 0cc4m. Использование PTB в качестве набора калибровочных данных. Порядок действий, истинная последовательность, percdamp 0,1 (percdamp по умолчанию — 0,01). Размер группы отсутствует. Будет работать с CUDA, не требует тритона. Quant завершила работу над Google Colab с графическим процессором премиум-класса и высокой памятью.

Модальности:
Генерация текста


Задача: Генерация текста
Автор: askmyteapot
Теги: llama, endpoints_compatible
Лайков: 10  |  Загрузок: 14

Открыть на HuggingFace →

Описание основано на материалах HuggingFace. Перевод выполнен автоматически.