Метка: awq - Страница 3 - Каталог нейросетей

Метка: awq

Генерация текста

casperhansen/mistral-7b-instruct-v0.1-awq

Квантованная модель AWQ с использованием https://github.com/casper-hansen/AutoAWQ. Модальности:Генерация текста Области применения:Следование инструкциям Задача: Генерация текста Автор: casperhansen Теги: mistral,...

Генерация текста

TheBloke/Athena-v3-AWQ

Чат По сравнению с GPTQ он обеспечивает более быстрое выведение на основе Transformers. Теперь он также поддерживается сервером...

Генерация текста

TheBloke/Marcoroni-70B-v1-AWQ

Чат По сравнению с GPTQ он обеспечивает более быстрое выведение на основе Transformers. Теперь он также поддерживается сервером...

Генерация текста

TheBloke/law-LLM-AWQ

Чат Теперь он также поддерживается сервером непрерывной пакетной обработки vLLM, что позволяет использовать модели Llama AWQ для параллельного...