中文

超越Weisfeiler-Lehman:图神经网络表达力的量化框架

机器学习 2024-01-17 v1 离散数学 数据结构与算法 组合数学

摘要

设计具有表达力的图神经网络(GNN)是图学习社区的一个基础性课题。迄今为止,GNN的表达力主要通过Weisfeiler-Lehman(WL)层次结构来评估。然而,这种表达力度量存在显著局限:它本质上是粗糙的、定性的,并且可能无法很好地反映实际需求(例如,编码子结构的能力)。在本文中,我们引入了一个统一的框架,用于定量研究GNN架构的表达力,以解决上述所有局限性。具体来说,我们确定了一种称为同态表达力的基本表达力度量,它量化了GNN模型在同态下计数图的能力。同态表达力提供了一个完整且实用的评估工具:完整性使得GNN模型之间可以直接进行表达力比较,而实用性则允许理解具体的GNN能力,如子图计数。通过考察四类重要的GNN作为案例研究,我们为它们在不变和等变设置下的同态表达力推导出了简单、统一且优雅的描述。我们的结果为一系列先前的工作提供了新颖的见解,统一了社区内不同子领域的格局,并解决了若干开放性问题。在实证方面,在合成和真实世界任务上的大量实验验证了我们的理论,表明GNN模型的实际性能与所提出的度量标准高度一致。

关键词

引用

@article{arxiv.2401.08514,
  title  = {Beyond Weisfeiler-Lehman: A Quantitative Framework for GNN Expressiveness},
  author = {Bohang Zhang and Jingchu Gai and Yiheng Du and Qiwei Ye and Di He and Liwei Wang},
  journal= {arXiv preprint arXiv:2401.08514},
  year   = {2024}
}

备注

73 pages, 9 figures, 9 tables; Extended from ICLR 2024 (Oral Presentation). This version polishes all proofs for better readability