ISTA-DASLab/Qwen3-8B-MatGPTQ

This is the official MatGPTQ checkpoint of Qwen/Qwen3-8B, produced as described in the «MatGPTQ: Efficient and Accurate Inference over Nested Quantized Models» paper. This model can be run via vLLM. Checkout our integration at IST-DASLab/MatGPTQ

Модальности:
Генерация текста

Области применения:
Диалог / чат

Задача: Генерация текста
Автор: ISTA-DASLab
Теги: qwen3, conversational, 8-bit, matgptq_quant
Лайков: 3 | Загрузок: 119

Открыть на HuggingFace →

Описание основано на материалах HuggingFace. Перевод выполнен автоматически.

Похожие модели (Генерация текста)

Генерация текста

mradermacher/Hemlock-Coder-7B-GGUF

static quants of https://huggingface.co/hemlang/Hemlock-Coder-7B For a convenient overview and download list, visit our model page for this model....

Генерация текста

mlabonne/OrpoLlama-3-8B

Это доработка ORPO мета-ламы/Мета-Лламы-3-8B на mlabonne/orpo-dpo-mix-40k, созданная для этой статьи. Это успешная настройка, соответствующая шаблону ChatML! Попробуйте демо:...

Генерация текста

CYFRAGOVPL/PLLuM-12B-nc-chat-2412

PLLuM — это семейство больших языковых моделей (LLM), специализирующихся на польском и других славянских/балтийских языках, с дополнительными данными...

Генерация текста

OpenDFM/ChemDFM-v1.0-13B

ChemDFM — это новаторская модель диалога с открытым исходным кодом для химии и молекулярной науки, созданная на основе...