Эта модель qwen3_5 была обучена в 2 раза быстрее с помощью библиотеки TRL Unsloth и Huggingface. Qwen3.5-9B-Opus-OpenClaw-Distilled — это основанная на рассуждениях, агентно настроенная производная от Qwen3.5-9b, созданная для объединения двух сильных сторон в одну идентичность модели: — Операционные/агентные инстинкты OpenClaw и CoPaw — Структурированная дистилляция рассуждений в стиле Клода Опуса Цель проста: использовать сильный базовый режим —> настроить агентские возможности, такие как openclaw и Agentscope —> дистиллировать рассуждения на уровне opus-4.6 —> лучшее из обоих миров — сохраненный чат + сильная агентская полезность из линии Openclaw / CoPaw — модель, которая больше ощущается как «планировщик + оператор», чем просто «чат-бот» — температура = 0,6 — topp = 0,95 — minp = 0,0 — topk = 20 — повторение пеналти = 1,0 — присутствие пеналти = 0,0` GGUF, который правильно работает с Олламой, — это файл с объединенным видением поскольку Ollama принимает только один GGUF для загрузки из файла модели — Qwen3.5-9b-Opus-Openclaw-Distilled-vision-merged-Q6K.gguf` В этом файле уже есть мультимодальные веса, объединенные с основным GGUF, поэтому вам следует использовать его непосредственно в качестве цели FROM в вашем файле модели. Сохраните следующее как файл модели в той же папке, что и GGUF: — Используйте объединенный с Vision GGUF только для Ollama. — Все…
Модальности:
Генерация текста
Области применения:
Логика и рассуждение Диалог / чат Вызов функций (Tool use)
Задача: Генерация текста
Автор: ykarout
Теги: gguf, text-generation-inference, unsloth, qwen3_5, openclaw, agentscope, opus, opus-4.6
Лайков: 16 | Загрузок: 5,887
Описание основано на материалах HuggingFace. Перевод выполнен автоматически.
