关于“图神经网络过平滑的一点注记”的评论
机器学习
2025-09-05 v1
摘要
我们对 Cai 和 Wang(2020, arXiv:2006.13318)的文章进行评论,他们通过 Dirichlet 能量分析了 GNNs 中的过平滑现象。我们证明,在温和的谱条件下(包括使用 Leaky-ReLU 的情况),节点嵌入的 Dirichlet 能量随深度呈指数衰减;我们进一步将该结果扩展至谱多项式滤波器,并为 Leaky-ReLU 情况提供了简短证明。边删除和权重放大的实验说明了 Dirichlet 能量何时增加,暗示了缓解过平滑的实用方法。
引用
@article{arxiv.2509.04178,
title = {Comment on "A Note on Over-Smoothing for Graph Neural Networks"},
author = {Razi Hasson and Reuven Guetta},
journal= {arXiv preprint arXiv:2509.04178},
year = {2025}
}
备注
Comment on arXiv:2006.13318 (Cai & Wang, 2020). Revisits their Dirichlet-energy analysis of over-smoothing and extends it to Leaky-ReLU and spectral polynomial filters; includes Proposition 7.1 and a new proof of Lemma 3.3 for Leaky-ReLU. 7 pages