图神经网络的等变多项式
机器学习
2023-06-06 v2 人工智能
摘要
图神经网络 (GNN) 的表达能力存在固有局限。近期开创性工作 (Xu et al., 2019; Morris et al., 2019b) 引入了 Weisfeiler-Lehman (WL) 层次作为表达能力的度量。尽管该层次推动了 GNN 分析与架构设计的显著进展，它仍存在若干重要局限，包括定义复杂且缺乏对模型改进的直接指导，以及 WL 层次过于粗糙而难以研究当前 GNN。本文引入了一种基于 GNN 计算特定次数的等变多项式之能力的替代性表达能力层次。首先，我们通过引入一个具体基，对全部等变图多项式给出完整刻画，显著推广了先前结果。每个基元素对应于一个特定的多重图，其在某图数据输入上的计算对应于一个张量缩并问题。其次，我们提出利用张量缩并序列评估 GNN 表达能力的算法工具，并计算出若干流行 GNN 的表达能力。最后，我们通过添加受理论启发的多项式特征或额外操作/聚合来增强常用 GNN 架构的表达性。这些增强的 GNN 在多个图学习基准实验中取得了最先进的结果。
引用
@article{arxiv.2302.11556,
title = {Equivariant Polynomials for Graph Neural Networks},
author = {Omri Puny and Derek Lim and Bobak T. Kiani and Haggai Maron and Yaron Lipman},
journal= {arXiv preprint arXiv:2302.11556},
year = {2023}
}