Чтобы включить сохранение мышления (Агент может запомнить, о чем он думал в предыдущих ходах), передайте следующий параметр при запуске llama.cpp: В Linux и MacOS (Windows требуется немного другой параметр, который не может быть правильно отображен здесь…): —chat-template-kwargs ‘{«preserve_thinking»: true}’ Если вы используете OpenCode, обратите внимание, что у них есть открытая ошибка для отображения содержимого мышления в виде обычного текста. Открытая ошибка с 4 месяцев (https://github.com/anomalyco/opencode/issues/11439). Между тем вы можете использовать переключатель сервера llama.cpp, чтобы полностью скрыть мышление (но при этом позволить модели думать), используя дополнительный параметр llama.cpp: —reasoning-format deepseek
Модальности:
Генерация текста
Задача: Генерация текста
Автор: StableQuant
Теги: chat-template, jinja, jinja2, qwen3, template-fix, bugfix, endpoints_compatible
Лайков: 8 | Загрузок: 0
Описание основано на материалах HuggingFace. Перевод выполнен автоматически.
