— Метод квантования: cyankiwi AWQ v1.0 — Биты: 4 — Размер группы: 32 — Набор калибровочных данных: nvidia/Llama-Nemotron-Post-Training-Dataset — Инструмент квантования: llm-compressor Qwen3-Coder доступен в нескольких размерах. Сегодня мы рады представить Qwen3-Coder-30B-A3B-Instruct. Эта оптимизированная модель обеспечивает впечатляющую производительность и эффективность, обладая следующими ключевыми улучшениями: — Значительная производительность среди открытых моделей при агентном кодировании, использовании агентного браузера и других основных задачах кодирования. — Возможности длительного контекста с встроенной поддержкой 256 тыс. токенов, расширяемой до 1 млн токенов с помощью Yarn, оптимизированной для понимания в масштабе репозитория. — Поддержка агентного кодирования для большинства платформ, таких как Qwen Code, CLINE, со специально разработанным форматом вызова функций. Qwen3-Coder-30B-A3B-Instruct имеет следующие особенности: — Тип: каузальные языковые модели — Этап обучения: предварительное обучение и постобучение — Количество параметров: всего 30,5B и активированных 3,3B — Количество слоев: 48 — Количество головок внимания (GQA): 32 для Q и 4 для KV — Количество экспертов: 128 — Количество активированных экспертов: 8 — Длина контекста: 262 144 изначально. Более подробная информация, включая тесты…
Модальности:
Генерация текста
Области применения:
Диалог / чат Генерация кода Следование инструкциям
Задача: Генерация текста
Автор: cyankiwi
Теги: qwen3_moe, conversational, endpoints_compatible, compressed-tensors
Лайков: 48 | Загрузок: 154,567
Описание основано на материалах HuggingFace. Перевод выполнен автоматически.
