GP-MoLFormer — это класс моделей, предварительно обученных на строковых представлениях SMILES молекул размером 0,65–1,1B из ZINC и PubChem. Этот репозиторий предназначен для модели, предварительно обученной на всех уникальных молекулах из обоих наборов данных. Он был представлен в статье GP-MoLFormer: A Foundation Model For Molecular Generation Росса и др. и опубликован в этом репозитории. GP-MoLFormer — это крупномасштабная авторегрессионная модель химического языка, предназначенная для задач генерации молекул. GP-MoLFormer использует ту же архитектуру, что и MoLFormer-XL, включая встраивание линейного внимания и вращательного положения, но использует блоки Transformer только для декодера, обученные с целью моделирования причинного языка. Он обучен на 1,1 млрд молекул в представлении SMILES. GP-MoLFormer оценивался в задачах генерации de novo (в масштабе), декорировании с использованием каркаса и оптимизации молекулярных свойств. Предварительно обученную модель можно использовать в готовом виде для безусловной генерации молекул de novo. Его также можно запросить с помощью частичной строки SMILES для завершения/украшения каркаса. Мы также демонстрируем, что его можно точно настроить на конкретном наборе данных, чтобы изменить выходное распределение (например, на более похожее на наркотики) или настроить на…
Модальности:
Генерация текста
Области применения:
Химия
Задача: Генерация текста
Автор: ibm-research
Теги: molformer, chemistry, custom_code
Лайков: 6 | Загрузок: 2,187
Описание основано на материалах HuggingFace. Перевод выполнен автоматически.
