中文

有效电阻接线:针对过度压缩的简单拓扑校正

机器学习 2026-03-13 v1 人工智能

摘要

图神经网络在捕获长程依赖方面困难,因为信息从指数级的邻域必须通过有限数量的结构瓶颈传递,这被称为 over-squashing。虽然 recent rewiring 方法试图缓解这一限制,但许多依赖 local 标准(如曲率)的方法会忽略限制信息流的全局连通性约束。我们提出了 Effective Resistance Rewiring (ERR),一种简单拓扑校正策略,利用 effective resistance 作为全局信号检测结构瓶颈。ERR 迭代添加 between resistance 最大的节点对之间的边,并删除 resistance 最小的边,以加强弱的通信路径,同时在固定 edge 预算下控制图的稠密化。该程序仅需 edge 预算之外无参数,依赖单一的全局 measure 对节点对之间的所有路径进行聚合。除了 GCN 模型的预测性能外,我们分析了 rewiring 对 message propagation 的影响。通过跟踪 node embeddings 在不同图层之间的余弦相似性,我们检查了初始 node features 与学习得到的 representations 在 message passing 期间的演变关系,比较带有和不带 rewiring 的图。该分析有助于确定改进是否源于更好的 long-range communication 而非嵌入几何的变化。在 homophilic 和 heterophilic 图上进行的实验,包括使用 DirGCN 的 directed setting,揭示了 over-squashing 与 oversmoothing 之间的权衡,其中 oversmoothing 对应于在深层模型中 representation 多样性的丢失。Resistance-guided rewiring 改善了连通性和 signal propagation,但可能加速深层模型中的 representation 混合。将 ERR 与 normalization 技术如 PairNorm 结合可稳定该权衡并提升性能。

关键词

引用

@article{arxiv.2603.11944,
  title  = {Effective Resistance Rewiring: A Simple Topological Correction for Over-Squashing},
  author = {Bertran Miquel-Oliver and Manel Gil-Sorribes and Victor Guallar and Alexis Molina},
  journal= {arXiv preprint arXiv:2603.11944},
  year   = {2026}
}