Flood and Echo Net：具有泛化能力的算法对齐 GNN

Joël Mathys; Florian Grötschla; Kalyan Varma Nadimpalli; Roger Wattenhofer

Flood and Echo Net：具有泛化能力的算法对齐 GNN

机器学习 2024-06-04 v3

作者: Joël Mathys , Florian Grötschla , Kalyan Varma Nadimpalli , Roger Wattenhofer

摘要

大多数图神经网络遵循标准的消息传递框架，其中每一步所有节点同时相互通信。我们希望通过使计算更紧密地对齐分布式算法的执行来挑战这一范式，并提出 Flood and Echo Net。Flood and Echo Net 的单轮由一个原点节点、一个泛洪阶段以及一个回波阶段组成。首先，在泛洪期间，消息从原点发出并传播至整个图。然后，在回波期间，消息流反转，消息被发回原点。由于节点仅在接收到消息时被稀疏激活，这导致了遍历图的波状激活模式。通过这些稀疏但并行的激活，该网络比受 1-WL 测试限制的传统 MPNN 更具表达能力，并且在消息复杂度上可证明更高效。此外，该机制跨不同大小图泛化的内在能力使其成为算法学习任务的一种实用架构。我们在多种合成任务与 SALSA-CLRS 基准上测试了 Flood and Echo Net，发现执行的算法对齐改善了向更大图尺寸的泛化。

关键词

图神经网络 Flood and Echo Net 算法对齐泛化消息传递

引用

@article{arxiv.2310.06970,
  title  = {Flood and Echo Net: Algorithmically Aligned GNNs that Generalize},
  author = {Joël Mathys and Florian Grötschla and Kalyan Varma Nadimpalli and Roger Wattenhofer},
  journal= {arXiv preprint arXiv:2310.06970},
  year   = {2024}
}

备注

9 pages

Flood and Echo Net：具有泛化能力的算法对齐 GNN

摘要

关键词

引用

备注

相关论文