Метарм 1.3B Пифия, настроенная на обучение, склонная к написанию художественной литературы и разговорам. Metharme 1.3B — это модель инструкций, основанная на Pythia 1.4B Deduped от EleutherAI. Это эксперимент, целью которого является попытка получить модель, которую можно было бы использовать для разговора, ролевой игры и написания рассказов, но которой можно было бы управлять с помощью естественного языка, как и другими моделями обучения. Примеры см. в разделе подсказок ниже. Его обучение проводилось путем контролируемой точной настройки на основе обычных данных инструкций, а также ролевых игр, вымышленных историй и разговоров с прикрепленными синтетически сгенерированными инструкциями. Текущая версия модели обучена на подсказках с использованием трех разных ролей, которые обозначаются следующими токенами: и . Подсказку можно использовать для скрытого ввода внеканальной информации, тогда как подсказку следует использовать для обозначения ввода пользователя. Затем этот токен следует использовать для указания того, что модель должна сгенерировать ответ. Эти токены могут повторяться несколько раз и объединяться в цепочку, образуя историю разговора. Вот конкретный пример. Допустим, у вас есть следующее системное приглашение: > Это текстовая приключенческая игра. Опишите сценарий пользователю и дайте ему…
Модальности:
Генерация текста
Задача: Генерация текста
Автор: PygmalionAI
Теги: gpt_neox, en, text-generation-inference, endpoints_compatible
Лайков: 24 | Загрузок: 1,344
Описание основано на материалах HuggingFace. Перевод выполнен автоматически.
