Используйте токенизатор Qwen2.5-32B. Я думаю, лучше использовать обычную ролевую игру, а не ролевую игру с рассуждениями. Как говорили многие: Tiny Deepseek R1 подойдет вам, если у вас не слишком хорошие характеристики. Карта памяти объемом 16 ГБ может очень хорошо работать с вариантами IQ3. После быстрого тестирования это слияние показало очень хороший результат и хорошие возможности в ролевой игре. Ничего больше. Спасибо за использование моей модели слияния. Рассуждение не обязательно включать, но это хорошая функция, которую можно включить, если вы хотите «улучшить» свои впечатления от ролевых игр и многозадачности (но это отнимает больше времени :/). Маркер рассуждения. Вы можете поискать в Интернете, как включить режим мышления. Обратите внимание, что в глупом тарвене вам следует отключить «Всегда добавлять имя персонажа для запроса в форматировании контекста» и «Никогда не включать имена в шаблон инструкций». Для создания этой модели использовалась следующая конфигурация YAML:
Модальности:
Генерация текста
Области применения:
Диалог / чат
Задача: Генерация текста
Автор: DoppelReflEx
Теги: qwen2, mergekit, merge, conversational, text-generation-inference, endpoints_compatible
Лайков: 5 | Загрузок: 11
Описание основано на материалах HuggingFace. Перевод выполнен автоматически.
