用于分子性质预测的原子-基序对比 Transformer
机器学习
2023-10-12 v1
摘要
近年来，图 Transformer (GT) 模型因其在刻画图节点（即分子中的原子）间潜在关系方面的高可靠性，被广泛用于分子性质预测 (MPP) 任务。然而，大多数现有的基于 GT 的方法通常只探究成对原子间的基本相互作用，因而未能考虑分子关键基序（例如由若干原子构成的功能团）之间的重要相互作用。由于分子中的基序是决定分子性质（例如毒性和溶解度）至关重要的模式，忽略基序相互作用不可避免地会阻碍 MPP 的有效性。为解决该问题，我们提出了一种新颖的原子-基序对比 Transformer (AMCT)，其不仅探究原子级相互作用，还考虑基序级相互作用。由于给定分子的原子与基序表示实际上是同一实例的两个不同视图，它们自然对齐以生成用于模型训练的自监督信号。同时，同一基序可存在于不同分子中，因此我们亦采用对比损失来最大化跨不同分子的相同基序的表示一致性。最后，为清晰识别对决定各分子性质起关键作用的基序，我们进一步在学习框架中构建了属性感知注意力机制。我们所提出的 AMCT 在七个流行基准数据集上进行了广泛评估，定性与定量结果均有力证明了其相较于最先进 (SOTA) 方法的有效性。
引用
@article{arxiv.2310.07351,
title = {Atom-Motif Contrastive Transformer for Molecular Property Prediction},
author = {Wentao Yu and Shuo Chen and Chen Gong and Gang Niu and Masashi Sugiyama},
journal= {arXiv preprint arXiv:2310.07351},
year = {2023}
}
备注
submit to AAAI-24