改进消息传递神经网络的有效感受野
机器学习
2025-05-30 v1
摘要
消息传递神经网络（MPNN）已成为处理和分析图结构数据的基石。然而，其有效性常受到过度挤压等现象的阻碍，即长程依赖或相互作用未能在 MPNN 输出中被充分捕获和表达。这一局限性反映了卷积神经网络（CNN）中有效感受野（ERF）面临的挑战，即理论感受野在实际中未被充分利用。在本工作中，我们展示并从理论上解释了 MPNN 中有限的 ERF 问题。此外，受 CNN 中 ERF 增强近期进展的启发，我们提出了一种交错多尺度消息传递神经网络（IM-MPNN）架构来解决 MPNN 中的这些问题。我们的方法结合了图的分层粗化，实现了跨多尺度表示的消息传递，并在无需过深网络或过多参数化的情况下促进了长程交互。通过在长程图基准（LRGB）等基准上的广泛评估，我们展示了在保持计算效率的同时，相较于基线 MPNN 在捕获长程依赖方面的显著改进。
引用
@article{arxiv.2505.23185,
title = {Improving the Effective Receptive Field of Message-Passing Neural Networks},
author = {Shahaf E. Finder and Ron Shapira Weber and Moshe Eliasof and Oren Freifeld and Eran Treister},
journal= {arXiv preprint arXiv:2505.23185},
year = {2025}
}
备注
Accepted to ICML 2025