图神经网络过挤压问题的综述：当前方法、基准与挑战
机器学习
2023-11-21 v2
摘要
基于图的消息传递神经网络（MPNNs）在节点级与图级学习任务中均取得了显著成功。然而，包括过平滑（OSM）、有限表达力与过挤压（OSQ）在内的若干已识别问题仍限制了 MPNNs 的性能。特别地，OSQ 作为最新被识别的问题，当图节点间需要长程依赖时，MPNNs 的学习精度会逐渐下降。本工作中，我们通过总结当前文献中 OSQ 的不同表述，以及解决 OSQ 问题的三类不同方法，对 OSQ 问题进行了综述。此外，我们还讨论了 OSQ 与表达力之间的关联以及 OSQ 与 OSM 之间的权衡。进而，我们总结了现有工作用于验证 OSQ 缓解方法有效性的经验方法，并说明了其计算复杂度。最后，我们列出了一些值得进一步探索 OSQ 问题的开放性问题，并给出了我们所知的相关潜在方向。
引用
@article{arxiv.2311.07073,
title = {Exposition on over-squashing problem on GNNs: Current Methods, Benchmarks and Challenges},
author = {Dai Shi and Andi Han and Lequan Lin and Yi Guo and Junbin Gao},
journal= {arXiv preprint arXiv:2311.07073},
year = {2023}
}