我们是否正确测量了图神经网络中的过平滑？
机器学习
2026-02-24 v4 人工智能
机器学习
摘要
过平滑是图神经网络（GNNs）中的一个基本挑战：随着层数的增加，节点表示变得越来越相似，模型性能急剧下降。传统上，过平滑是使用测量相邻节点特征相似度的指标来量化的，例如 Dirichlet 能量。我们认为这些指标具有关键局限性，无法在真实场景中可靠地捕捉过平滑。例如，它们仅在非常深的网络中提供有意义的见解，而典型的 GNNs 在仅有 10 层时就已经表现出性能下降。作为替代，我们提出通过考察特征表示的数值秩或有效秩来测量过平滑。我们在多种图架构和数据集上进行了广泛的数值评估，表明基于秩的指标能够一致地捕捉过平滑，而基于能量的指标通常会失效。值得注意的是，我们揭示了秩的下降与性能退化密切吻合，即使在能量指标保持不变的场景中也是如此。除了实验评估外，我们还为该方法提供了理论支持，阐明了为何类 Dirichlet 测度可能无法捕捉性能下降，并证明对于一大类 GNN 架构，特征表示的数值秩会坍缩为一。
关键词
引用
@article{arxiv.2502.04591,
title = {Are We Measuring Oversmoothing in Graph Neural Networks Correctly?},
author = {Kaicheng Zhang and Piero Deidda and Desmond Higham and Francesco Tudisco},
journal= {arXiv preprint arXiv:2502.04591},
year = {2026}
}
备注
Accepted into ICLR 2026