Literature-7B-16384 — это модель GPT-NeoX 7B, настроенная на 2 ГБ разнообразных легких романов, эротики и аннотированной литературы с целью создания художественного текста, похожего на роман. Для точной настройки используется модель RedPajama-7B-16384, которая представляет собой авторегрессионную языковую модель с 7 миллиардами параметров, точно настроенную с контекстным окном из 16384 токенов. Данные, используемые при тонкой настройке, были собраны из различных источников, таких как Проект Гутенберга. К аннотированному набору данных художественной литературы добавлены теги, помогающие создать определенный стиль. Вот пример подсказки, показывающий, как использовать аннотации. Аннотации можно смешивать и сопоставлять, чтобы создать определенный стиль. Эту модель можно использовать в развлекательных целях и в качестве творческого помощника для писателей-фантастов. Пример вывода этого кода дает результат, который будет выглядеть примерно так: — Энтони Меркурио: Обучение — 11b: Длинный контекст — Imperishable_NEET: Набор данных
Модальности:
Генерация текста
Задача: Генерация текста
Автор: hakurei
Теги: gpt_neox, causal-lm, en, text-generation-inference, endpoints_compatible
Лайков: 16 | Загрузок: 38
Описание основано на материалах HuggingFace. Перевод выполнен автоматически.
