图神经网络的拓扑感知及其在一般化性能中的作用
机器学习
2024-07-09 v2
摘要
许多计算机视觉和机器学习问题被建模为图上的学习任务,其中图神经网络GNN已成为学习图结构数据表示的主导工具。GNN的一个关键特征是使用图结构作为输入,使其能够利用图内在拓扑特性,称为GNN的拓扑感知。尽管GNN在实证实验中取得了成功,但拓扑感知对一般化性能的影响仍未被探讨,尤其是对于那些与数据独立同分布(IID)假设相悖的节点级任务。GNN的拓扑感知的精确定义与表征——尤其是关于不同拓扑特性的表征——仍不清晰。本文引入了一个综合性框架,用于刻画GNN在任意拓扑特性上的拓扑感知。通过该框架,我们研究了拓扑感知对GNN一般化性能的影响。与提升GNN拓扑感知始终有益的普遍信念相反,我们的分析揭示了关键见解:提升GNN的拓扑感知可能不恰当地导致结构性群组之间的不公平一般化,这在某些场景下可能并非所愿。此外,我们进行了一个案例研究,使用内在图度量——最短路径距离——在多个基准数据集上进行实验。该案例研究的实证结果确认了我们的理论见解。而且我们通过使用该框架来解决图主动学习中的冷启动问题,展示了框架的实际应用性。
引用
@article{arxiv.2403.04482,
title = {On the Topology Awareness and Generalization Performance of Graph Neural Networks},
author = {Junwei Su and Chuan Wu},
journal= {arXiv preprint arXiv:2403.04482},
year = {2024}
}