Эта версия создана с помощью QWQ Tokenizer. В режиме рассуждений она должна быть лучше, чем версия Origin, вот и все. Как говорили многие: Tiny Deepseek R1 подойдет вам, если у вас не слишком хорошие характеристики. Карта памяти объемом 16 ГБ может очень хорошо работать с вариантами IQ3. ~~После быстрого тестирования это слияние показало очень хороший результат и хорошие возможности в ролевой игре. Ничего больше~~. Спасибо за использование моей модели слияния. После полного тестирования могу сказать, что эта модель — одна из лучших моделей, которые я создал (слил). Диалоги, вероятно, яркие и очень умные по сравнению с его размером. Благодарю команду mradermacher за квантование этой модели, которая помогла мне провести полное тестирование. Минусы: все, кроме английского и китайского, снизит производительность этой модели, вам следует включить режим рассуждения, чтобы лучше работать с неанглийским и некитайским языком. Рассуждение не обязательно включать, но это хорошая функция, которую можно включить, если вы хотите «улучшить» свои впечатления от ролевых игр и многозадачности (но это отнимает больше времени :/). Маркер рассуждения. Вы можете поискать в Интернете, как включить режим мышления. Обратите внимание, что в глупом тарвене вам следует отключить «Всегда добавлять имя персонажа для запроса в форматировании контекста и включать…»
Модальности:
Генерация текста
Области применения:
Диалог / чат
Задача: Генерация текста
Автор: DoppelReflEx
Теги: qwen2, mergekit, merge, conversational, text-generation-inference, endpoints_compatible
Лайков: 10 | Загрузок: 6
Описание основано на материалах HuggingFace. Перевод выполнен автоматически.
