Ранее не публиковавшийся адаптер LoRA для Yarn-Llama-2-7B-64k, предназначенный для внутреннего использования. Его основная цель — создание Персоны и Сценария (сводки) из исходных данных LimaRP yaml. Однако в некоторой степени он может работать с разными типами текста. Замените Имя персонажа именем персонажа, для которого вы хотите определить Персону. По умолчанию этот LoRA ищет имена-заполнители и (в соответствующем порядке), но он также может работать с именами собственными. На этом изображении показано, что произойдет (красный прямоугольник) после добавления данных в формате, показанном на левой панели. На практике результаты дважды проверялись и корректировались вручную, чтобы разнообразить результаты и добавить причуды, особенности или черты характера, которые модель не могла уловить. — Хотя сценарий/резюме зачастую удивительно точны, персонажи не отличаются высокой точностью и могут повторяться. — Персона и Сценарий могут проявлять gpt-измы. — Модель может не замечать своеобразных особенностей характера. — LoRA не подвергался тщательному тестированию с различными входными форматами. — Очевидно, существуют проблемы со слишком ранней генерацией токена EOS. Предлагается отключить его. Следующие гиперпараметры использовались во время…
Модальности:
Генерация текста
Задача: Генерация текста
Автор: lemonilia
Теги: llama, custom_code, endpoints_compatible, 8-bit, bitsandbytes
Лайков: 4 | Загрузок: 7
Описание основано на материалах HuggingFace. Перевод выполнен автоматически.
