Qwimi3.5-9B-Kimik2.6-Opus-Distill-GGUF содержит квантованные версии GGUF Qwimi3.5-9B-Kimik2.6-Opus-Distill, доработку unsloth/Qwen3.5-9B, ориентированную на рассуждения. Эта модель была обучена как контролируемая точная настройка/очистка с использованием тщательно подобранной смеси данных Кими K2.6, рассуждений Квен и данных рассуждений в стиле TraceInversion Клода Опуса. Целью прогона было улучшение структурированного поведения рассуждений при сохранении форматирования чата в стиле Qwen и… следов рассуждений. — Разработчик: trjxter — Базовая модель: unsloth/Qwen3.5-9B — Тип модели: квантовая причинно-языковая модель GGUF — Метод обучения: LoRA / RS-LoRA SFT с Unsloth + TRL — Лицензия: Apache 2.0 — Язык: английский Для большинства локальных настроек вывода начните с Q4KM. Если у вас больше видеопамяти/ОЗУ и вы хотите лучшего качества, попробуйте Q5KM, Q6K или Q80. Облегченная потеря оценки была измерена на подмножестве оценок из 200 примеров во время обучения. — Вывод локальной модели рассуждения — Рабочие процессы, совместимые с llama.cpp — Подсказки для структурированных рассуждений — Математика и решение задач — Кодирование и технические рассуждения — Эксперименты по рассуждению в длинном контексте — Сравнение качества квантования GGUF в вариантах Q4, Q5, Q6 и Q8 Это экспериментальная точная настройка и…
Модальности:
Генерация текста
Области применения:
Логика и рассуждение Диалог / чат
Задача: Генерация текста
Автор: trjxter
Теги: gguf, qwen3_5, llama.cpp, unsloth, qwen, qwen3.5, reasoning, distillation
Лайков: 7 | Загрузок: 7,577
Описание основано на материалах HuggingFace. Перевод выполнен автоматически.
