三元组交互改进图 Transformer：基于三元组图 Transformer 的精确分子图学习
机器学习
2025-09-10 v2
摘要
图 Transformer 通常缺乏三阶交互，这限制了其对分子几何预测等任务至关重要的几何理解能力。我们提出了三元组图 Transformer（TGT），通过新颖的三元组注意力和聚合机制，实现 3 个节点组成的三元组内节点对之间的直接通信。TGT 被应用于分子性质预测，首先从 2D 图预测原子间距离，然后将这些距离用于下游任务。一种新颖的三阶段训练过程和随机推理进一步提高了训练效率和模型性能。我们的模型在公开挑战基准 PCQM4Mv2 和 OC20 IS2RE 上取得了新的最先进（SOTA）结果。通过迁移学习，我们还在 QM9、MOLPCBA 和 LIT-PCBA 分子性质预测基准上获得了 SOTA 结果。我们还在旅行商问题（TSP）上取得了 SOTA 结果，证明了 TGT 的通用性。
引用
@article{arxiv.2402.04538,
title = {Triplet Interaction Improves Graph Transformers: Accurate Molecular Graph Learning with Triplet Graph Transformers},
author = {Md Shamim Hussain and Mohammed J. Zaki and Dharmashankar Subramanian},
journal= {arXiv preprint arXiv:2402.04538},
year = {2025}
}
备注
ICML'24 Accepted Version, 25 pages, 10 figures, 18 tables