基于签名图的 GNN 过平滑问题理解与缓解
机器学习
2025-05-30 v2
摘要
深度图神经网络（GNN）常常会出现过平滑问题，即随着深度增加，节点表示变得过于均匀。虽然已提出归一化、残差连接和边Dropout等技术来缓解过平滑问题，但这些方法通常是独立开发的，对其底层机制缺乏理论理解。在本工作中，我们提出了一种基于签名图框架的统一理论视角，表明许多现有策略在隐式地引入负边后，会改变消息传递机制以抵抗过平滑。然而，我们指出，仅以非结构化方式添加负边是不够的——签名传播的渐近行为在正负边的强度和组织方式上具有决定性影响。为此，我们利用结构平衡理论，该理论通过将相似节点连接为正边、将不相似节点连接为负边来促进稳定的、保留簇结构的动力学。我们提出结构平衡传播（Structural Balanced Propagation, SBP），这是一种即插即用的方法，根据标签或特征相似性为签名边赋值，以显式增强构建的签名图中的结构平衡。实验在九个基准数据集上进行，涵盖 homophilic 和 heterophilic 设置，结果表明 SBP 在分类准确率和过平滑缓解方面 consistently 提升，即使在深度达到 300 层时亦能显著效果。我们的结果为先前的过平滑补救措施提供了原则性解释，并引入了深度 GNN 中签名消息传递设计的新方向。
引用
@article{arxiv.2502.11394,
title = {A Signed Graph Approach to Understanding and Mitigating Oversmoothing in GNNs},
author = {Jiaqi Wang and Xinyi Wu and James Cheng and Yifei Wang},
journal= {arXiv preprint arXiv:2502.11394},
year = {2025}
}