图神经网络能够生成哪些函数?
机器学习
2022-06-22 v2
摘要
在本文中,我们通过图函数的一个关键代数条件——称为置换兼容性(permutation compatibility),该条件将图的权重和特征的置换与函数约束联系起来,完全回答了上述问题。我们证明:(i) GNN 作为一种图函数,必然是置换兼容的;(ii) 反之,任何置换兼容的函数,当限制在具有不同节点特征的输入图上时,都可以由 GNN 生成;(iii) 对于任意节点特征(不一定不同),一种简单的特征增强方案足以让 GNN 生成置换兼容函数;(iv) 置换兼容性可以通过仅检查二次多个函数约束来验证,而无需对所有置换进行穷举搜索;(v) 一旦我们用节点标识增强节点特征,GNN 可以生成任意图函数,从而超越图同构和置换兼容性。上述刻画为形式化研究 GNN 与图上其他算法过程之间的复杂联系铺平了道路。例如,我们的刻画意味着许多自然的图问题,如最小割值、最大流值、最大团大小和最短路径,都可以通过简单的特征增强由 GNN 生成。相比之下,著名的 Weisfeiler-Lehman 图同构测试在具有相同特征的置换兼容函数无法由 GNN 生成时失效。我们分析的核心是一个新颖的表示定理,它识别了 GNN 的基函数。这使我们能够将目标图函数的性质转化为 GNN 聚合函数的性质。
引用
@article{arxiv.2202.08833,
title = {What Functions Can Graph Neural Networks Generate?},
author = {Mohammad Fereydounian and Hamed Hassani and Amin Karbasi},
journal= {arXiv preprint arXiv:2202.08833},
year = {2022}
}
备注
37 pages