一种受动力系统启发的剪枝策略用于解决图神经网络中的过度平滑问题

图神经网络（GNN）中的过度平滑问题随着网络深度的增加而构成重大挑战，导致节点表示同质化并丧失表达能力。在本工作中，我们从动力系统的角度处理过度平滑问题，从而更深入地理解GNN的稳定性和收敛行为。利用动力系统理论的见解，我们识别了过度平滑的根本原因，并提出了DYNAMO-GAT。该方法利用噪声驱动的协方差分析和反Hebbian原则，选择性地剪枝冗余注意力权重，动态调整网络行为以保持节点特征多样性和稳定性。我们的理论分析揭示了DYNAMO-GAT如何打破向过度平滑状态的收敛，而基准数据集上的实验结果证明了其相较于传统和最先进方法的优越性能和效率。DYNAMO-GAT不仅通过动力系统的视角推进了对过度平滑的理论理解，还为改善深层GNN的稳定性和表达能力提供了实用且有效的解决方案。