S$^3$GNN:用于长程图学习的高效全局混合与局部消息传递
机器学习
2026-05-25 v1
摘要
消息传递神经网络(MPNN)在捕捉长程依赖时常常出现信息瓶颈,导致过度压扁(OSQ)现象。除了空间连通性丰富化(如重新接线)外,最近的研究表明,谱滤波可实现出色的长程学习效果,因为谱算子能够实现全局信息混合,从而缓解OSQ。这些方法通过稳定深层传播的雅可比能量或在强有力的理论假设下保证OSQ缓解来实现此目标。我们重新审视了这些结论,证明与相关雅可比灵敏度下界在实践中通常难以实现。随后,我们提出SGNN,通过轻量级重新引入被省略的组件来缓解OSQ,而无需此类限制性假设,在我们的新动态下,标准的特征转换稳定性约束仍然有效。在多样化领域(如长程基准、KGQA 和基于网格的流体动力学)的广泛实验表明,SGNN 在最高可达一个数量级的误差降低方面表现出色,同时参数数量可减少最高 50%。我们的代码可在 https://github.com/EEthanShi/S3-GNN.git 找到。
引用
@article{arxiv.2605.23467,
title = {S$^3$GNN: Efficient Global Mixing and Local Message Passing for Long-Range Graph Learning},
author = {Dai Shi and Luke Thompson and Linhan Luo and Lequan Lin and Andi Han and Junbin Gao and José Miguel Hernández Lobato},
journal= {arXiv preprint arXiv:2605.23467},
year = {2026}
}