面向图神经网络的动态消息传递
机器学习
2024-12-03 v2
摘要
消息传递在图神经网络(GNNs)中发挥着关键作用,以实现有效的特征学习。然而,过度依赖输入拓扑结构会削弱消息传递的效果并限制GNN的能力。尽管已有努力试图缓解这种依赖,但现有研究仍面临消息传递瓶颈或高计算成本问题,这就需要灵活且复杂度较低的消息传递。本文提出了一种 novel 的动态消息传递机制,用于GNN。它将图节点和可学习的伪节点投影到一个具有可测量空间关系的公共空间中。随着节点在空间中的移动,其演化关系促进了用于动态消息传递过程的灵活路径构建。通过将伪节点与输入图关联并利用其测量关系,图节点可通过伪节点在线性复杂度下相互通信。我们进一步开发了一个基于动态消息传递机制的GNN模型 。 采用单个循环层递归生成节点的位移并构建最优动态路径。在十八个基准测试上的评估表明, 在流行GNN上表现出优越性能。 成功扩展到大规模基准测试,并通过共享循环层在图分类中需要显著更少的参数。
引用
@article{arxiv.2410.23686,
title = {Towards Dynamic Message Passing on Graphs},
author = {Junshu Sun and Chenxue Yang and Xiangyang Ji and Qingming Huang and Shuhui Wang},
journal= {arXiv preprint arXiv:2410.23686},
year = {2024}
}
备注
Accepted by NeurIPS 2024