Lotus-12B — это модель GPT-NeoX 12B, настроенная на 2,5 ГБ разнообразного спектра легких романов, эротики, аннотированной литературы и общедоступных разговоров с целью создания художественного текста и разговоров, подобных роману. Для точной настройки используется модель Pythia 12B Deduped, представляющая собой авторегрессионную языковую модель с 12 миллиардами параметров, обученную на The Pile. Данные, используемые при тонкой настройке, были собраны из различных источников, таких как Проект Гутенберга. К аннотированному набору данных художественной литературы добавлены теги, помогающие создать определенный стиль. Вот пример подсказки, показывающий, как использовать аннотации. А для разговоров, которые были извлечены из My Discord Server и общедоступных субреддитов Reddit: аннотации можно смешивать и сопоставлять, чтобы создать определенный стиль. Эту модель можно использовать в развлекательных целях и в качестве творческого помощника для писателей-фантастов и чат-ботов. Пример вывода этого кода дает результат, который будет выглядеть примерно так: Этот проект был бы невозможен без работы, проделанной EleutherAI. Спасибо!
Модальности:
Генерация текста
Задача: Генерация текста
Автор: hakurei
Теги: gpt_neox, causal-lm, en, text-generation-inference, endpoints_compatible
Лайков: 27 | Загрузок: 2,586
Описание основано на материалах HuggingFace. Перевод выполнен автоматически.
