交叉注意力凝聚子图嵌入以缓解 GNN 中的过压缩
机器学习
2026-04-03 v3 人工智能
摘要
图神经网络（GNN）在各种现实领域取得了强劲性能。然而，它们遭受过压缩（oversquashing）的困扰，即长程信息在通过有限的消息传递路径压缩时被扭曲。这一瓶颈限制了它们捕获必要全局上下文的能力，并降低了性能，特别是在图的稠密和异质区域。为解决这一问题，我们提出了一种新型图学习框架，通过交叉注意力凝聚子图表示丰富节点嵌入，以缓解过度长程依赖的影响。该框架通过强调长程信息中的凝聚结构、去除噪声或无关连接来增强节点表示。它在不过载狭窄瓶颈通道的情况下保留了必要的全局上下文，从而进一步缓解了过压缩。在多个基准数据集上的大量实验表明，我们的模型在分类准确率上相对于标准基线方法取得了持续提升。
引用
@article{arxiv.2603.27529,
title = {Cross-attentive Cohesive Subgraph Embedding to Mitigate Oversquashing in GNNs},
author = {Tanvir Hossain and Muhammad Ifte Khairul Islam and Lilia Chebbah and Charles Fanning and Esra Akbas},
journal= {arXiv preprint arXiv:2603.27529},
year = {2026}
}