中文

谱不变图神经网络的表达力

机器学习 2024-06-07 v1 离散数学 数据结构与算法 组合数学 谱理论

摘要

将谱信息纳入以增强图神经网络(GNN)的做法显示出有前景的潜力,但由于特征向量固有的歧义,引发了根本性挑战。已提出各种体系结构来解决此歧义,称为谱不变体系结构。包括使用谱距离、谱投影矩阵或其他不变谱特征的图神经网络和图变换器等。然而,这些谱不变体系结构的潜在表达力至今鲜有清晰了解。本工作旨�深入理论性地理解在使用谱特征时可获得的表达力。我们首先引入一种统一的消息传递框架用于设计谱不变图神经网络,称为特征子空间投影图神经网络(EPNN)。综合分析表明,EPNN本质上统一了所有先前的谱不变体系结构,由于它们要么严格不如EPNN,要么等价于EPNN。也建立了不同体系结构之间的细粒度表达层次。另一方面,我们证明EPNN本身受到最近提出的子图图神经网络类(Subgraph GNNs)的限制,暗示所有这些谱不变体系结构都严格不如3-WL具有更大的表达力。最后,我们讨论在与更具表达力的图神经网络结合使用谱特征时,是否能获得额外的表达力。

关键词

引用

@article{arxiv.2406.04336,
  title  = {On the Expressive Power of Spectral Invariant Graph Neural Networks},
  author = {Bohang Zhang and Lingxiao Zhao and Haggai Maron},
  journal= {arXiv preprint arXiv:2406.04336},
  year   = {2024}
}

备注

31 pages; 3 figures; to appear in ICML 2024