Эта модель leonsarmiento/Qwen3.6-27B-3bit-mlx была преобразована в формат MLX из Qwen/Qwen3.6-27B с использованием mlx-lm версии 0.31.2. В модели используется смешанное квантование: — Слои внедрения: 5-битные с групповым размером = 64 — Слои прогнозирования: 5-битные с групповым размером = 64 — Все остальные слои: 3-битные с групповым размером = 64 Этот подход смешанной точности обеспечивает баланс между сжатием и качеством. Сохранение мышления ({%- set savethinking = true %}): — Общие задачи: температура = 1,0, topp = 0,95, topk = 20, minp = 0,0, Presencepenalty = 1,5, повторение Penalty = 1,0 — Задачи кодирования: температура = 0,6, topp = 0,95, topk = 20, minp = 0,0, Presencepenalty = 0,0, повторение Penalty = 1,0` Режим обучения ({%- set Enablethinking = false -%}): — Общие задачи: температура = 0,7, topp = 0,8, topk = 20, minp = 0,0, присутствие пеналти = 1,5, повторение пеналти = 1,0 — Задачи на рассуждение: температура = 1,0, топп = 0,95, топк = 20, минп = 0,0, присутствие пеналти = 1,5, повторение пеналти = 1,0`
Модальности:
Генерация текста
Области применения:
Диалог / чат
Задача: Генерация текста
Автор: leonsarmiento
Теги: mlx, qwen3_5, qwen3, conversational, 4-bit
Лайков: 9 | Загрузок: 2,456
Описание основано на материалах HuggingFace. Перевод выполнен автоматически.
