Если вы используете GENERator для генерации последовательности, убедитесь, что длина каждой входной последовательности кратна 6. Этого можно добиться одним из следующих способов: 1. Дополнив последовательность слева буквой «A» (заполнение слева); 2. Усечение последовательности слева (усечение слева). Это требование возникает потому, что GENERator использует 6-мерный токенизатор. Если длина входной последовательности не кратна 6, токенизатор добавит токен » (вне словаря) в конец последовательности токенов. Это может привести к тому, что последующие поколения будут неинформативными, например, к повторению «АААААА». Мы приносим извинения за возможные неудобства и рекомендуем придерживаться приведенных выше рекомендаций, чтобы обеспечить точные и значимые результаты генерации. В этом репозитории мы представляем GENERator, модель генеративной геномной основы с длиной контекста 98 тыс. пар оснований и параметрами 3B, обученную на обширном наборе данных, включающем 386 миллиардов пар оснований эукариотической ДНК. Обширные и разнообразные данные перед тренировкой наделяют ГЕНЕРАТОР улучшенными возможностями понимания и создания генерации в различных организмах. Более подробную техническую информацию можно найти в нашей статье «ГЕНЕРАТОР: генеративный метод с длинным контекстом»…
Модальности:
Генерация текста
Области применения:
Биология
Задача: Генерация текста
Автор: GenerTeam
Теги: llama, biology, genomics, long-context, custom_code, text-generation-inference, endpoints_compatible
Лайков: 9 | Загрузок: 217
Описание основано на материалах HuggingFace. Перевод выполнен автоматически.
