图神经网络的表达性与逼近性质
机器学习
2022-04-12 v1
摘要
刻画图神经网络（GNNs）的分离能力有助于理解其在图学习任务中的局限性。然而，关于分离能力的结果通常针对特定的 GNN 架构，且普遍缺乏理解任意 GNN 架构的工具。我们提供了一种简洁的方法，依据已成为衡量 GNN 分离能力标尺的 Weisfeiler-Leman（WL）测试，轻松获得 GNN 分离能力的界。其关键在于将 GNN 视为描述 GNN 各层计算的过程式张量语言中的表达式。随后，通过对所得表达式按指标个数与求和嵌套深度进行简单分析，即可直接得出关于 WL 测试的分离能力界。我们利用张量语言定义了高阶消息传递神经网络（或称 k-MPNNs），作为 MPNNs 的自然推广。此外，张量语言的视角使得以自然方式推导各类 GNN 的通用性结果成为可能。我们的方法提供了一个工具箱，GNN 架构设计者借此可分析其 GNN 的分离能力，而无需了解 WL 测试的细节。我们也对提升 GNN 分离能力所需条件提供了见解。
引用
@article{arxiv.2204.04661,
title = {Expressiveness and Approximation Properties of Graph Neural Networks},
author = {Floris Geerts and Juan L. Reutter},
journal= {arXiv preprint arXiv:2204.04661},
year = {2022}
}
备注
43 pages, accepted as oral presentation at ICLR 2022: https://openreview.net/forum?id=wIzUeM3TAU