揭示图神经网络的表示瓶颈
机器学习
2026-01-08 v5 人工智能
摘要
图神经网络(GNNs)主要依赖消息传递范式来传播节点特征并建立交互,而不同的图学习问题需要不同范围的节点交互。本工作中,我们探究GNNs在不同复杂度背景下捕获节点交互的能力。我们发现GNNs通常无法捕获对多样化图学习任务最具信息量的交互类型,并将此现象命名为GNNs的表示瓶颈。作为回应,我们证明现有图构建机制引入的归纳偏置会导致该表示瓶颈,即阻碍GNNs学习适当复杂度的交互。为解决该局限,我们提出一种基于GNNs学习到的交互模式、动态调整各节点感受野的新型图重连方法。在真实与合成数据集上的大量实验证明了我们的算法在缓解表示瓶颈以及超越最先进图重连基线的GNNs性能提升方面的有效性。
引用
@article{arxiv.2205.07266,
title = {Discovering the Representation Bottleneck of Graph Neural Networks},
author = {Fang Wu and Siyuan Li and Stan Z. Li},
journal= {arXiv preprint arXiv:2205.07266},
year = {2026}
}