В последнее время я экспериментировал с моделями, пытаясь решить серьезную проблему Circuitry v.2 — самоцензуру. Может быть, моя системная подсказка недостаточно хороша, может быть, Q4ks слишком мал, я не знаю. Родилась идея небольшого обновления v2. Однако я напутал с конфигом и сделал это. И почему-то он работает лучше, чем схема v2. Модель отлично работает в RP, ERP и Assistant. Диалоги в нем лучше, чем в версии 2, с тенденцией к более длинным сообщениям и повествованию. Модель следует инструкциям, придерживаясь стиля уценки, уделяя достаточно внимания деталям. Он может «запомнить» что-то, что находится в начале контекста 12k, и даже не слишком нарушено квантованием контекста q8. Клише присутствуют — мурашки бегут, головы кружатся, но запрещённые струны в ST это исправляют. Стиль написания приятный, без сценарного уклона. Он может работать как в мрачной обстановке, так и на утопической райской карте. Модель работает лучше на хороших карточках с примерами диалогов и стилей, но также может работать и с наполовину написанным мусором. Он легко обрабатывает два персонажа в сцене и остается стабильным до пяти, но длина ответов резко увеличивается. На цензурном фронте есть некоторые улучшения. V.2 отказов не выкидывал,…
Модальности:
Генерация текста
Задача: Генерация текста
Автор: OddTheGreat
Теги: mistral, mergekit, merge, roleplay, creative, en, ru, text-generation-inference
Лайков: 9 | Загрузок: 7
Описание основано на материалах HuggingFace. Перевод выполнен автоматически.
