过平滑谬误:关于图神经网络研究中的误导性叙事
机器学习
2025-06-06 v1
摘要
过平滑被认为是构建深层图神经网络 (GNN) 的主要障碍,限制了其性能。本立场论文认为,过平滑的影响被高估了,主张进一步探索深层 GNN 架构。鉴于 GNN 的三个核心操作——聚合、线性变换和非线性激活,我们展示了先前研究误将过平滑与由变换和激活导致的梯度消失混淆为过平滑,而实际上是聚合操作导致的。我们的发现挑战了关于过平滑是 GNN 特有的现象的先入观念。此外,我们证明了诸如 skip connection 和 normalization 等经典解决方案可成功堆叠深层 GNN 而无需性能下降。我们的结果澄清了关于过平滑的误解,为深层 GNN 的潜力指明了新视角。
引用
@article{arxiv.2506.04653,
title = {The Oversmoothing Fallacy: A Misguided Narrative in GNN Research},
author = {MoonJeong Park and Sunghyun Choi and Jaeseung Heo and Eunhyeok Park and Dongwoo Kim},
journal= {arXiv preprint arXiv:2506.04653},
year = {2025}
}