打破图神经网络的表现力瓶颈
机器学习
2020-12-15 v1 人工智能
摘要
近来，Weisfeiler-Lehman (WL) 图同构检验被用于衡量图神经网络(GNNs)的表现力，表明邻域聚合 GNN 至多与 1-WL 检验在区分图结构方面同样强大。也有类比于 -WL 检验()的改进被提出。然而，这些 GNN 中的聚合器远未达到 WL 检验所要求的单射，且区分能力弱，使其成为表现力瓶颈。本文通过探索强大的聚合器来提升表现力。我们用相应的聚合系数矩阵重新表述聚合，然后系统分析构建更强大聚合器乃至单射聚合器对聚合系数矩阵的要求。这也可视为保留隐藏特征秩的策略，并意味着基本聚合器对应于低秩变换的特例。我们还展示了在聚合之前应用非线性单元的必要性，这与大多数基于聚合的 GNN 不同。基于我们的理论分析，我们开发了两种 GNN 层，ExpandingConv 和 CombConv。实验结果表明，我们的模型显著提升了性能，尤其对于大型且密集连接的图。
引用
@article{arxiv.2012.07219,
title = {Breaking the Expressive Bottlenecks of Graph Neural Networks},
author = {Mingqi Yang and Yanming Shen and Heng Qi and Baocai Yin},
journal= {arXiv preprint arXiv:2012.07219},
year = {2020}
}