图神经网络中用于缓解过度压扁的局部虚拟节点
机器学习
2025-08-29 v1
摘要
图神经网络在涉及长程依赖关系的任务中面临过度压扁问题。对于此类任务，图神经网络的感受野应足够大，以便在远距离节点之间实现信息交互。然而，收集来自广泛邻域的信息并压缩其内容至固定大小的节点表示，会导致消息传递过程中的瓶颈。图 rewiring 和添加虚拟节点是常见的缓解方案，通过创建额外的通道绕过瓶颈来减轻过度压扁。然而，这些技术会改变输入图的全局拓扑，破坏原始图结构中编码的领域知识，而这种知识对于特定任务和领域可能至关重要。本研究提出局部虚拟节点 (LVN) 方法，通过可训练嵌入缓解过度压扁，同时对输入图的全局结构影响有限。LVN 的位置由节点中心性决定，后者指示潜在瓶颈的存在。因此，本方法旨在提高具有潜在瓶颈区域的连通性。此外，跨所选中心区域共享的可训练 LVN 嵌入有助于在远距离节点之间实现通信，而无需增加更多层数。大量基准数据集实验表明，LVN 能够增强结构连通性，显著提升图分类和节点分类任务的性能。相关代码已公开于 https://github.com/ALLab-Boun/LVN/。
引用
@article{arxiv.2508.20597,
title = {Local Virtual Nodes for Alleviating Over-Squashing in Graph Neural Networks},
author = {Tuğrul Hasan Karabulut and İnci M. Baytaş},
journal= {arXiv preprint arXiv:2508.20597},
year = {2025}
}