Спасибо за отзыв — это помогло исправить две основные проблемы в предыдущем выпуске — Плохой пресет («Iggy’s-RP-Preset») — Приносим извинения, если вы его использовали — Настройки семплера DRY были неправильными (отличались от того, что я на самом деле тестировал) — Вероятно, вызвано дублированием/переименованием в SillyTavern — моя ошибка — Неправильный токенизатор для квантов — Случайно использовался токенизатор Mistral Nemo вместо базового (Neona) — Вызвали проблемы с форматированием, особенно под Strong Влияние PE Дэна — Исправлено: повторное слияние с идентичной конфигурацией SLERP + использование правильного токенизатора с самого начала — Затем квантование (всестороннее тестирование на Q4KM) — Старое предустановленное поведение (drymultiplier=1, Reppen=1,12, freqpen=0,1): — Ранний чат (первые 10–30 сообщений): четкое, разнообразное, красивое форматирование акцентов — Последующий чат: сильная деградация — чрезмерный жирный шрифт + курсив в кавычках * — повторяющиеся драматические шаблоны – вынужденная/неестественная проза – возможный хаос + заметное падение качества – Эта версия должна выглядеть гораздо более последовательной – Лучшая стабильность формата – Значительно меньше деградации в длинных ролевых играх (при использовании правильных настроек сэмплера) – Следующие цели – Поэкспериментируйте с другими методами слияния – Попробуйте добавить третью модель, чтобы увеличить разнообразие и качество ответов…
Модальности:
Генерация текста
Области применения:
Диалог / чат
Задача: Генерация текста
Автор: IggyLux
Теги: mistral, mergekit, merge, roleplaying, RP, Writing, creative, story
Лайков: 13 | Загрузок: 144
Описание основано на материалах HuggingFace. Перевод выполнен автоматически.
