Это доработанная версия Conceptofmind/LLongMA-2-13b, предназначенная для обобщения и литературного анализа художественных рассказов. Он содержит специальный код моделирования для использования Flash Attention 2 во время вывода, что обеспечивает значительное ускорение, особенно при большей длине контекста. Чтобы включить, передайте Trustremotecode=True,useflashattention=True в AutoModelForCausalLM. > Пара близнецов семидесятых годов приближается к Микаэле и Герти в кафе. Они просят их записать историю своего исчезновения. Герти записывает их историю по мере ее рассказа. Имена близнецов — Дафна и Клод. Близнецы объясняют, что они приехали из Лондона, Англия, и возглавляли там движение против фашизма. Но в Вэйстейшн-Сити они застряли в подвешенном состоянии между временными линиями, не имея реальной возможности вернуться домой, чтобы продолжить свою работу. На самом деле, с течением времени им становилось все труднее вспоминать свою жизнь дома. Они говорят Герти, что не могут оставаться, и Микела призывает их не спускаться по лестнице, по которой водители паромов Вейстейшн-Сити отвезут их домой. Дафна пишет надпись на стене, оставляя на себе след как одной из исчезнувших, но они с Клодом смягчаются. Вместе они…
Модальности:
Генерация текста
Задача: Генерация текста
Автор: emozilla
Теги: llama, custom_code, text-generation-inference, endpoints_compatible
Лайков: 15 | Загрузок: 14
Описание основано на материалах HuggingFace. Перевод выполнен автоматически.
