通过虚拟节点实现概率图重连
机器学习
2024-12-03 v3
摘要
消息传递图神经网络已成为基于图的机器学习的一种强大范式。尽管有效,MPNN仍面临欠达和过压缩等挑战,其中有限的感受野和结构瓶颈阻碍了图中的信息流动。虽然图变换器有望解决这些问题,但其可扩展性受限于节点数量的二次复杂度,使其在较大图上不实用。在此,我们提出隐式重连消息传递神经网络,一种将隐式概率图重连集成到MPNN中的新颖方法。通过以可微分的端到端方式引入少量虚拟节点(即向给定图添加额外节点并将其连接到现有节点),IPR-MPNN实现了长距离消息传播,同时避免了二次复杂度。理论上,我们证明了IPR-MPNN超越了传统MPNN的表达能力。实验上,我们通过展示其缓解欠达和过压缩效应的能力验证了我们的方法,在多个图数据集上取得了最先进的性能。值得注意的是,IPR-MPNN在保持显著更快计算效率的同时,优于图变换器。
引用
@article{arxiv.2405.17311,
title = {Probabilistic Graph Rewiring via Virtual Nodes},
author = {Chendi Qian and Andrei Manolache and Christopher Morris and Mathias Niepert},
journal= {arXiv preprint arXiv:2405.17311},
year = {2024}
}
备注
Accepted at 38th Conference on Neural Information Processing Systems (NeurIPS 2024), Vancouver, Canada