GOAT-70B — модель повествования, обученная лабораторией GOAT.AI в качестве базовой модели для автономного агента, пишущего истории. Этот агент способствует созданию высококачественных, связных и увлекательных повествований, включая рассказы и книги. Это достигается за счет использования таких исходных данных, как контуры сюжета, профили персонажей, их взаимоотношения и другие важные детали. Примеры приведены ниже. — Базовая архитектура: LLaMA 2 70B — Лицензия: llama2 — Длина контекстного окна: 4096 токенов Обучение выполнялось на кластере графических процессоров 64xH100. Для эффективного обучения используется шардинг FSDP ZeRO-3. Мы даем инструкции по точной настройке набора данных из 18 тысяч примеров для одной эпохи с размером пакета 336, оптимизатором AdamW со скоростью обучения 1e-5. — Сообщение в блоге: GOAT-Storytelling: агент по написанию произвольно длинных историй — GitHub: здесь — Сгенерированные примеры: здесь Основная цель GOAT-70B-Storytelling — создавать книги, романы, сценарии фильмов и т. д. в качестве агента, справляющегося с нашим агентом GOAT-Storytelling. Он создан специально для авторов рассказов. Использование может быть либо самостоятельным через преобразователи, либо использоваться с пространствами. В настоящее время мы поддерживаем генерацию конечных точек LLM, где вам необходимо отправить почтовый запрос в генерацию…
Модальности:
Генерация текста
Задача: Генерация текста
Автор: GOAT-AI
Теги: llama, facebook, meta, llama-2, Storywriter, model-index, text-generation-inference, endpoints_compatible
Лайков: 59 | Загрузок: 999
Описание основано на материалах HuggingFace. Перевод выполнен автоматически.
