重新审视图神经网络中的过平滑：Anderson 局域化的视角

图神经网络（GNNs）凭借其强大的表征能力，在图数据分析中展现出巨大潜力。然而，随着网络深度增加，过平滑问题愈发严重，导致节点表征丧失其独特性。本文通过与 Anderson 局域化的类比分析了过平滑的机制，并引入参与度作为量化该现象的指标。具体而言，随着 GNN 深度增加，节点特征在多层消息传递后发生同质化，导致独特性丧失，类似于无序系统中振动模式的行为。在此背景下，GNNs 中的过平滑可理解为低频模式的扩展（参与度增加）和高频模式的局域化（参与度降低）。基于此，我们系统回顾了无序系统中 Anderson 局域化行为与图神经网络中过平滑行为之间的潜在联系。我们进行了理论分析，并提出了通过减少信息传播中的无序性来缓解过平滑的潜力。