Это доработанная версия мозаикиml/mpt-7b-storywriter, предназначенная для обобщения и литературного анализа художественных рассказов. Код для этой модели включает в себя адаптации из Birchlabs/mosaicml-mpt-7b-chat-qlora, которые позволяют загружать модели MPT с параметрами devicemap=»auto» и loadin8bit=True. Он также имеет новейший код MPT кэша «ключ-значение», обеспечивающий быстрый вывод с помощью преобразователей (таким образом, для usecache установлено значение True в config.json). температура=0,6, пенальти за повторение=1,04, topp=0,95, topk=50, dosample=True, maxnewtokens=1024 > Исчезнувшие близнецы просят Герти записать их исчезновение, и она соглашается при условии, что они расскажут ей свою историю. Выслушав их историю, Герти говорит им, что даст им проезд в нижний город, и они соглашаются. Они садятся в ночной трамвай, и к ним присоединяется Микела. В конце очереди они прощаются с Герти, и Микела советует им терпеливо ждать, пока их очередь исчезнет. Близнецы решают подождать и уйти. Спускаясь по лестнице, ведущей в нижний город, они проходят мимо знака, предупреждающего об ожидающих их опасностях, и достигают пристани. Здесь близнецы рисуют на стене сообщение: «Мы хотим остаться такими, какими…
Модальности:
Генерация текста
Задача: Генерация текста
Автор: emozilla
Теги: mpt, custom_code, text-generation-inference, endpoints_compatible
Лайков: 18 | Загрузок: 36
Описание основано на материалах HuggingFace. Перевод выполнен автоматически.
