通过有效电阻视角理解GNN中的过压缩现象
机器学习
2023-06-07 v2
摘要
消息传递图神经网络（GNNs）是图结构数据上流行的学习架构。然而，GNNs面临的一个问题是过压缩（oversquashing），即GNN难以在远距离节点间传递信息。理解和缓解过压缩近期受到研究界的显著关注。本文中，我们通过对输入图中节点间有效电阻的视角分析过压缩，延续这一工作脉络。有效电阻直观地通过图中的路径捕捉两个节点间连接的“强度”，并在图论诸多领域有丰富文献。我们提出使用总有效电阻作为图中过压缩总量的上界，并为其使用提供理论依据。我们进一步开发了一种算法，用于识别要添加到输入图中的边以最小化总有效电阻，从而缓解过压缩。我们提供了基于总有效电阻的重连策略在提升GNNs性能方面有效性的经验证据。
引用
@article{arxiv.2302.06835,
title = {Understanding Oversquashing in GNNs through the Lens of Effective Resistance},
author = {Mitchell Black and Zhengchao Wan and Amir Nayyeri and Yusu Wang},
journal= {arXiv preprint arXiv:2302.06835},
year = {2023}
}