黎曼流形图神经网络中的过压缩现象
机器学习
2023-11-30 v1 机器学习
摘要
大多数图神经网络(GNNs)容易出现过压缩现象,即节点特征对图中远距离节点信息的敏感度降低。近期研究表明,图的拓扑结构对过压缩影响最大,因而提出图重连方法作为合适的解决方案。在本工作中,我们探究是否可通过 GNN 的嵌入空间来缓解过压缩。具体而言,我们考虑双曲 GNNs(HGNNs)向变曲率黎曼流形的推广,其中嵌入空间的几何忠实于图的拓扑。我们推导了随着层数增加,这些黎曼 GNNs 中节点特征敏感度的界限,从而为缓解负曲率图中的过压缩提供了有前景的理论与经验结果。
引用
@article{arxiv.2311.15945,
title = {Over-Squashing in Riemannian Graph Neural Networks},
author = {Julia Balla},
journal= {arXiv preprint arXiv:2311.15945},
year = {2023}
}