EIGNN:高效无限深度图神经网络
机器学习
2022-02-23 v1
摘要
图神经网络(GNNs)被广泛应用于众多应用中的图结构数据建模。然而,由于固有的有限聚合层数,现有 GNN 模型可能无法有效捕捉底层图中的长程依赖。受此局限性的启发,我们提出了一种具有无限深度的 GNN 模型,称为高效无限深度图神经网络(EIGNN),以高效捕捉极长程依赖。我们从理论上推导了 EIGNN 的闭式解,使得训练无限深度 GNN 模型可行。我们随后进一步表明,通过特征分解可实现 EIGNN 训练更高效的计算。在合成与真实世界数据集上的全面实验经验结果表明,EIGNN 比近期基线具有更好的长程依赖捕捉能力,并一致取得最先进的性能。此外,我们展示了我们的模型对节点特征上的噪声和对抗扰动也具有更强的鲁棒性。
引用
@article{arxiv.2202.10720,
title = {EIGNN: Efficient Infinite-Depth Graph Neural Networks},
author = {Juncheng Liu and Kenji Kawaguchi and Bryan Hooi and Yiwei Wang and Xiaokui Xiao},
journal= {arXiv preprint arXiv:2202.10720},
year = {2022}
}
备注
NeurIPS 2021 Camera Ready