Атмосферный жанровый адаптер LoRA для двуязычной ролевой игры (английский и русский). Добавляет более темный, более литературный тон повествованию. Разработано исключительно для настройки стиля и структуры ответов в Dark Fantasy RP. Адаптер не содержит графиков или символов из данных обучения. Тот же набор целей, что и v2, разные данные. v4 тренирует одинаковые 115 проекций внимания с одинаковым рангом и альфой. Все, что изменило жизнь в датасете — смотрите Что изменилось с v2. Если вы уже запускаете v2, это замена в аналогичном масштабе, а не новый тип адаптера. v2 имел один режим сбоя, который появлялся только в длительных сеансах: модель медленно переставала подчиняться системному запросу. Качество прозы оставалось хорошим — грамматика не ухудшалась. Что ухудшилось, так это следование инструкциям на дальнем горизонте. Где-то на 30–40 обороте выходной формат тихо ушел от всего, что просила карточка персонажа, и структурированные блоки начали исчезать по одному. Причина была в данных. Набор данных v2 содержал по существу одну системную подсказку и один выходной формат. Модель никогда не видела контраста, поэтому она так и не узнала, что формат — это переменная, которую можно прочитать из подсказки. Он выучил формат как…
Модальности:
Генерация текста
Области применения:
Диалог / чат
Задача: Генерация текста
Автор: SubMaroon
Теги: peft, lora, roleplay, sillytavern, english, russian, gemma4, moe
Лайков: 3 | Загрузок: 18
Описание основано на материалах HuggingFace. Перевод выполнен автоматически.
