利用增广 Forman-Ricci 曲率缓解过平滑与过压缩

尽管图神经网络（GNNs）已成功应用于跨领域的图结构数据学习，但近来已有若干潜在缺陷被指出。其中包括无法准确利用长程连接中编码的信息（过压缩，over-squashing），以及随着网络深度增加难以区分邻近节点的学习表示（过平滑，over-smoothing）。刻画这两种效应的有效方式是离散曲率：导致过压缩效应的长程连接具有低曲率，而促成过平滑的边具有高曲率。该观察催生了重连技术，即通过添加或移除边来缓解过平滑与过压缩。已有若干利用图特征（如曲率或图拉普拉斯谱）的重连方法被提出。然而，现有方法（尤其是基于曲率的方法）常需昂贵的子程序与精细的超参数调优，这限制了其在大规模图上的适用性。本文提出一种基于增广 Forman-Ricci 曲率（AFRC，一种可线性时间计算的可扩展曲率表示）的重连技术。我们证明 AFRC 能有效刻画消息传递 GNN 中的过平滑与过压缩效应。我们以实验补充理论结果，表明所提方法在与其他方法相比显著降低成本的同时达到了最先进（state-of-the-art）性能。利用离散曲率的基本性质，我们提出了基于曲率的重连中超参数的有效启发式方法，避免了昂贵的超参数搜索，进一步提升了所提方法的可扩展性。