面向3D分子相互作用学习的通才等变Transformer
机器学习
2024-05-31 v6 生物大分子
摘要
生物学和药物发现中的许多过程涉及分子之间各种3D相互作用，例如蛋白质与蛋白质、蛋白质与小分子等。鉴于不同分子通常以不同粒度表示，现有方法通常利用不同模型独立编码每类分子，从而难以学习各种潜在的相互作用物理规律。本文中，我们首先提出将任意3D复合物普遍表示为集合的几何图，为用单一模型编码所有类型分子提供思路。随后提出通才等变Transformer(GET)以有效捕获特定领域的层次结构与领域无关的相互作用物理。具体而言，GET由双级注意力模块、前馈模块和层归一化模块组成，其中每个模块均为E(3)等变并专门用于处理可变大小的集合。值得注意的是，与传统的基于池化的层次模型不同，我们的GET能够保留所有层级的细粒度信息。在蛋白质、小分子与RNA/DNA之间相互作用上的大量实验验证了我们所提方法跨领域的有效性与泛化能力。
引用
@article{arxiv.2306.01474,
title = {Generalist Equivariant Transformer Towards 3D Molecular Interaction Learning},
author = {Xiangzhe Kong and Wenbing Huang and Yang Liu},
journal= {arXiv preprint arXiv:2306.01474},
year = {2024}
}
备注
Accepted to ICML 2024