ggml-org/Qwen3-Coder-30B-A3B-Instruct-GGUF

— Ships BF16, Q80 and Q4KM. — 30B MoE (3B active), 48 layers, 128 routed experts with 8 active per token, 262K context. — Q80 and Q4KM: the routed experts use the base quantization type. — In Q4KM the small non-expert tensors (embeddings, attention) are kept at Q8_0. > [!IMPORTANT] > This model is automatically converted using https://github.com/ggml-org/convert

Модальности:
Генерация текста

Области применения:
Диалог / чат Генерация кода Следование инструкциям

Задача: Генерация текста
Автор: ggml-org
Теги: gguf, quantized, endpoints_compatible, conversational
Лайков: 3  |  Загрузок: 41,493

Открыть на HuggingFace →

Описание основано на материалах HuggingFace. Перевод выполнен автоматически.