论图神经网络对顶点间交互的建模能力
机器学习
2023-10-24 v5 人工智能
神经与进化计算
机器学习
摘要
图神经网络（GNN）被广泛用于对表示为图顶点的实体间的复杂交互进行建模。尽管近期在 GNN 表达能力的理论分析方面做出了努力，但仍缺乏对其交互建模能力的正式刻画。本文旨在填补这一空白。通过一种称为分离秩的既有测度来形式化交互强度，我们量化了特定 GNN 对给定顶点子集与其补集之间交互的建模能力，即对输入顶点给定划分两侧之间的交互。我们的结果表明，建模交互的能力主要由该划分的游走指标决定——这是一个由从划分边界出发的游走数量定义的图论特征。常见 GNN 架构的实验证实了这一发现。作为我们理论的实际应用，我们设计了一种名为游走指标稀疏化（WIS）的边稀疏化算法，该算法在移除输入边时能保持 GNN 的交互建模能力。WIS 简单且计算高效，在我们的实验中，其引发的预测准确性显著优于替代方法。更广泛地说，它展示了通过理论分析 GNN 所能建模的交互来改进 GNN 的潜力。
引用
@article{arxiv.2211.16494,
title = {On the Ability of Graph Neural Networks to Model Interactions Between Vertices},
author = {Noam Razin and Tom Verbin and Nadav Cohen},
journal= {arXiv preprint arXiv:2211.16494},
year = {2023}
}
备注
Accepted to NeurIPS 2023