中文

打破消息传递图神经网络的局限

机器学习 2021-06-15 v1 人工智能

摘要

由于消息传递(图)神经网络(MPNNs)在应用于稀疏图时相对于节点数具有线性复杂度,它们已被广泛实现,并且尽管其理论表达能力受限于一阶 Weisfeiler-Lehman 检验(1-WL),仍引起大量关注。在本文中,我们表明,若图卷积支撑在谱域中由特征值的非线性自定义函数设计,并以任意大感受野进行掩蔽,则该 MPNN 在理论上强于 1-WL 检验,且在实验上可与现有的 3-WL 模型一样强,同时保持空间局部化。此外,通过设计自定义滤波函数,输出可具有多种频率分量,使卷积过程能够学习给定输入图信号与其关联属性之间的不同关系。迄今为止,最佳的 3-WL 等价图神经网络具有 O(n3)\mathcal{O}(n^3) 的计算复杂度和 O(n2)\mathcal{O}(n^2) 的内存占用,考虑非局部更新机制,且不提供输出谱的丰富性。所提方法克服了上述所有问题,并在许多下游任务中达到了最先进的(state-of-the-art)结果。

关键词

引用

@article{arxiv.2106.04319,
  title  = {Breaking the Limits of Message Passing Graph Neural Networks},
  author = {Muhammet Balcilar and Pierre Héroux and Benoit Gaüzère and Pascal Vasseur and Sébastien Adam and Paul Honeine},
  journal= {arXiv preprint arXiv:2106.04319},
  year   = {2021}
}

备注

18 pages, 6 figures