Метка: standalone

Генерация текста

TurbulenceDeterministe/Carnice-9b-W8A16-AWQ

8-битное симметричное квантование AWQ kai-os/Carnice-9b, оптимизированное для графических процессоров Ampere (серия RTX 30) с vLLM. kai-os/Carnice-9b — это...