> Журнал изменений v2 (из исходной версии): метаданные токенизатора нормализованы для среды выполнения Qwen3.5 GGUF; встроенный шаблон чата обновлен для обеспечения надежного вызова инструментов/функций и циклов агентов в стиле OpenCode; Приглашение для идентификации Qwythos/Empero, встроенное в шаблон; Варианты MTP с поддержкой —spec-type Draft-MTP; Вызов инструментов Q4/Q8, обсуждение проекта MTP, выделение контекста 1M и дымовое тестирование проектора с текущим llama.cpp. > Примечание. Имена файлов содержат Q5KM только для совместимости с анализатором HF. Это не чистый Q5KM — это селективные гибридные кванты, использующие Q80, Q6K, IQ4XS, Q5K и F16 для разных типов тензоров. См. каждый раздел для получения точной карты для каждого тензора. > Выборочное гибридное квантование для Qwythos-9B-Claude-Mythos-5-1M от Empero со встроенной головкой MTP — полнопараметрическая точная настройка Qwen3.5-9B с контекстом 1M, поддержкой видения и прогнозированием нескольких токенов для более быстрого спекулятивного декодирования. > Использует тот же метод и формулы SHQ8, что и Qwable-9B-Claude-Fable-5-SHQ8-GGUF — та же архитектура, та же иматрица, (почти) те же стратегии квантования. В обоих вариантах сохраняется голова MTP (черт.32) в Q80** для максимальной точности спекуляций. Головка MTP добавляет ~247 МБ по сравнению с головкой без MTP…
Модальности:
Генерация текста Компьютерное зрение
Области применения:
Логика и рассуждение Диалог / чат
Задача: Генерация текста
Автор: wepiqx
Теги: gguf, qwen, qwen3.5, 9b, quantized, quantization, llama-cpp, q5_k_m
Лайков: 6 | Загрузок: 4,749
Описание основано на материалах HuggingFace. Перевод выполнен автоматически.
