Talosian-7B — это модель повествования, созданная специально для контролируемого написания новых историй по частям. Он обучен на новой базовой модели Мистраль-7Б v0.2 на длинном контекстном наборе данных фанфиков. Талосиан обучается с использованием определенного формата подсказок. Он использует токены [SEC] и [/SEC] для обозначения «заголовков разделов», описывающих действие, которое должно произойти в следующем разделе. Эти заголовки разделов перемежаются с самой историей, и им предшествуют традиционные подсказки и теги истории. В заголовке последнего раздела токен [END] следует сразу за открывающим токеном [SEC] — это должно помочь модели завершить историю естественным образом. Например: Пример подсказки и рассказа. Напишите рассказ, который представляет собой пересказ «Ромео и Джульетты», происходящий в наши дни, где Ромео и Джульетта — это два LLM, которых разделяют их владельцы. Эта история происходит в мире, где LLM широко используются для повседневных задач, таких как написание статей и исследований, но существует запрет на их использование в «несанкционированных целях» из-за потенциальных этических проблем, связанных с их использованием. В этом контексте Ромео и Джульетта — два магистра права, которые влюбляются друг в друга, несмотря на то, что их держат разные люди, что приводит к…
Модальности:
Генерация текста
Задача: Генерация текста
Автор: jspr
Теги: mistral, en, text-generation-inference, endpoints_compatible
Лайков: 12 | Загрузок: 15
Описание основано на материалах HuggingFace. Перевод выполнен автоматически.