Метка: awq - Страница 8 - Каталог нейросетей

Метка: awq

Генерация текста

TheBloke/Airoboros-L2-70B-2.1-Creative-AWQ

Чат По сравнению с GPTQ он обеспечивает более быстрое выполнение инференса на основе Transformers. Теперь он также поддерживается...

Генерация текста

TheBloke/Airoboros-L2-13B-2_1-YaRN-64K-AWQ

Чат По сравнению с GPTQ он обеспечивает более быстрое выполнение инференса на основе Transformers. Теперь он также поддерживается...

Генерация текста

TheBloke/Marcoroni-70B-AWQ

Чат По сравнению с GPTQ он обеспечивает более быстрое выполнение инференса на основе Transformers. Теперь он также поддерживается...

Генерация текста

TheBloke/CodeLlama-34B-Python-AWQ

Чат По сравнению с GPTQ он обеспечивает более быстрое выполнение инференса на основе Transformers. Теперь он также поддерживается...

Генерация текста

TheBloke/CodeLlama-34B-AWQ

Чат Теперь AWQ также поддерживается сервером непрерывной пакетной обработки vLLM, что позволяет использовать модели AWQ для параллельного вывода...

Генерация текста

TheBloke/CodeLlama-13B-Python-AWQ

Чат По сравнению с GPTQ он обеспечивает более быстрое выполнение инференса на основе Transformers. Теперь он также поддерживается...

Генерация текста

casperhansen/opt-125m-awq

Модель генерации текста Модальности:Генерация текста Задача: Генерация текста Автор: casperhansen Теги: opt, text-generation-inference, endpoints_compatible, 4-bit, awqЛайков: 2  | ...

Генерация текста

casperhansen/falcon-7b-awq

Модель генерации текста Модальности:Генерация текста Задача: Генерация текста Автор: casperhansen Теги: RefinedWebModel, custom_code, text-generation-inference, endpoints_compatible, 4-bit, awqЛайков: 2...