路径增强图 Transformer 网络
机器学习
2019-05-31 v1 机器学习
摘要
近期许多关于分子表示学习的工作都基于图卷积网络(GCN)。这些模型依赖于局部聚合操作,因此可能遗漏高阶图性质。为弥补这一点,我们提出了路径增强图 Transformer 网络(PAGTN),其显式构建于图结构数据中更长程的依赖关系上。具体而言,我们利用分子图中的路径特征来创建全局注意力层。我们将 PAGTN 模型与 GCN 模型进行比较,表明我们的模型在包括量子化学(QM7、QM8、QM9)、物理化学(ESOL、Lipophilicity)和生化(BACE、BBBP)在内的分子性质预测数据集上持续优于 GCN。
引用
@article{arxiv.1905.12712,
title = {Path-Augmented Graph Transformer Network},
author = {Benson Chen and Regina Barzilay and Tommi Jaakkola},
journal= {arXiv preprint arXiv:1905.12712},
year = {2019}
}
备注
Appears in ICML LRG Workshop