用于图上消息扩散的束神经网络
机器学习
2025-04-15 v2
摘要
图结构数据学习的主流范式是消息传递。尽管是一种强大的归纳偏置，但局部消息传递机制存在病态问题，例如过平滑、过挤压和有限的节点级表达能力。为了解决这些局限性，我们提出了束神经网络（BuNN），这是一种新型的GNN，它通过平坦向量束上的消息扩散来运行——这种结构类似于黎曼流形上的联络，通过为每个节点分配一个向量空间和一个正交映射来增强图。BuNN层根据扩散型偏微分方程演化特征。离散化后，BuNN是束神经网络（SNN）的一个特例，SNN是最近提出的能够缓解过平滑的MPNN。消息扩散的连续性质使BuNN能够在更大的图尺度上运行，从而缓解过挤压。最后，我们证明，给定单射位置编码，BuNN可以在任何（可能是无限的）图族上逼近节点上的任何特征变换，从而实现通用的节点级表达能力。我们通过合成实验支持我们的理论，并展示了BuNN在一系列真实世界任务上的强大实证性能，在多个标准基准测试的直推和归纳设置中取得了最先进的结果。
引用
@article{arxiv.2405.15540,
title = {Bundle Neural Networks for message diffusion on graphs},
author = {Jacob Bamberger and Federico Barbero and Xiaowen Dong and Michael M. Bronstein},
journal= {arXiv preprint arXiv:2405.15540},
year = {2025}
}