基于 SE(3) 不变去噪距离匹配的分子几何预训练
机器学习
2023-03-02 v2 定量方法
摘要
由于标记分子数量有限,分子表示预训练在药物与材料发现的各种应用中至关重要,且现有工作多聚焦于在二维分子图上进行预训练。然而,在三维几何结构上的预训练能力尚待探索。这归因于难以找到充分的代理任务,使预训练能有效从几何结构中提取本质特征。受三维分子动态特性的启发——分子在三维欧几里得空间中的连续运动形成平滑势能面,我们提出 GeoSSL,一种三维坐标去噪预训练框架来建模此类能量景观。进一步借助 SE(3) 不变得分匹配方法,我们提出 GeoSSL-DDM,其中坐标去噪代理任务被有效化简为对分子中原子间成对距离的去噪。我们全面的实验证实了所提方法的有效性与鲁棒性。
引用
@article{arxiv.2206.13602,
title = {Molecular Geometry Pretraining with SE(3)-Invariant Denoising Distance Matching},
author = {Shengchao Liu and Hongyu Guo and Jian Tang},
journal= {arXiv preprint arXiv:2206.13602},
year = {2023}
}