图神经网络中的过平滑问题综述
机器学习
2023-03-21 v1
摘要
图神经网络（GNNs）的节点特征随着网络深度的增加趋于变得更加相似。这种效应被称为过平滑（over-smoothing），我们公理化地将其定义为节点特征上合适相似性度量的指数收敛。我们的定义统一了以往的方法，并催生了过平滑的新定量度量。此外，我们在不同图（小规模、中规模和大规模）上针对若干过平滑度量实证展示了该行为。我们还回顾了几种缓解过平滑的方法，并在真实世界图数据集上实证检验了它们的有效性。通过示例说明，我们证明缓解过平滑是构建在广泛图学习任务上具有表达能力的深度 GNNs 的必要非充分条件。最后，我们将过平滑的定义扩展到快速涌现的连续时间 GNNs 领域。
引用
@article{arxiv.2303.10993,
title = {A Survey on Oversmoothing in Graph Neural Networks},
author = {T. Konstantin Rusch and Michael M. Bronstein and Siddhartha Mishra},
journal= {arXiv preprint arXiv:2303.10993},
year = {2023}
}