> Обновление от 20.05.2026 — доступен черновик заголовка MTP: теперь опубликован совместимый компаньон для самостоятельного декодирования: Qwen3.6-27B-Claude-Opus-Reasoning-MTP-Q4KM-gguf — загрузите его через —model-draft для увеличения пропускной способности декодирования на 40 % без потери качества (llama.cpp ≥ b9245, —spec-type Draft-mtp). Квантованный GGUF rico03/Qwen3.6-27B-Claude-Opus-Reasoning-Distilled в формате Unsloth Dynamic 2.0 Q4KXL. Вариант использования: единственное квантование этой модели, которое соответствует полному собственному контексту 262 КБ на одном графическом процессоре емкостью 24 ГБ — подтверждено на RTX 3090. Просто подходит. Чтобы получить максимальное качество рассуждений в более коротком контексте, см. UD Q5KXL. > ⚠️ Требуется исправление шаблона чата — исходный репозиторий rico03 содержит шаблон Qwen3.5, что нарушает вызовы инструментов Qwen3.6. Добавьте —chat-template-file qwen3.6chattemplate.jinja в команду llama-server (исходный код шаблона). Формат вызова инструмента: {«param»: «value»}` Часть серии DAXZEIT UD с поддержкой SSM — рецепты UD, полученные методом реверс-инжиниринга на основе базовых моделей Unsloth и примененные к дистиллятам с использованием калиброванной иматрицы. > Обновлено 12 мая 2026 г. — Если вы загрузили эту модель до 12 мая 2026 г., загрузите ее повторно. В первоначальной версии использовался неверный рецепт квантования. В этой версии применяется правильный Unsloth Dynamic 2.0 UD…
Модальности:
Генерация текста
Области применения:
Логика и рассуждение Диалог / чат Мультиязычность
Задача: Генерация текста
Автор: DAXZEIT
Теги: gguf, quantized, qwen3.6, reasoning, distillation, claude-opus, llama-cpp, imatrix
Лайков: 5 | Загрузок: 2,054
Описание основано на материалах HuggingFace. Перевод выполнен автоматически.
