Метка: awq - Каталог нейросетей

Метка: awq

Генерация текста

TheBloke/SauerkrautLM-7B-v1-mistral-AWQ

Чат По сравнению с GPTQ он обеспечивает более быстрое выполнение инференса на основе Transformers. Теперь он также поддерживается...