Эта модель была 4-разрядной квантованной моделью Llada-8B-Base с GPTQModel. — bits: 4 — dynamic: null — groupsize: 128 — descact: true — staticgroups: false — sym: false — lmhead: false — truesequential: true — quantmethod: «gptq» — checkpointformat: «gptq» — meta: — quantizer: gptqmodel:1.1.0 — URI: https://github.com/modelcloud/gptqmodel — damppercent: 0.1 — dampautoincrement: 0.0015
Модальности:
Генерация текста
Области применения:
Диалог / чат Следование инструкциям
Задача: Генерация текста
Автор: FunAGI
Теги: llada, gptqmodel, FunAGI, int4, conversational, custom_code, en, de
Лайков: 4 | Загрузок: 120
Описание основано на материалах HuggingFace. Перевод выполнен автоматически.