中文

邻域 Transformer:单向齐性感知的图学习开关式注意力

机器学习 2026-04-13 v1 人工智能

摘要

图神经网络(GNN)在社交网络分析、化学研究和计算机视觉等工程应用中得到广泛采用。然而,其有效性受到内在同质性假设的限制,该假设在异质性图中常不成立,即 dissimilar 节点经常相互连接。为解决这一根本性限制,我们首先借鉴最近发现的真实图的单向齐性(monophily)属性,提出邻域 Transformer(NT),一种新范式,采用自注意力机制于每个局部邻域内工作,而非像传统消息传递 GNN 那样将信息聚合到中心节点。这种设计使 NT 本身具备单向齐性感知能力,并理论上保证其表达性不弱于传统消息传递框架。对于实际工程部署,我们进一步开发了具备开关注意力的邻域分区策略,该策略将 NT 的空间消耗降低超过 95%,时间消耗降低最高可达 92.67%,显著扩展了其在大规模图上的适用性。广泛实验表明,在节点分类任务上,NT 在 10 个真实数据集(包括 5 个异质性和 5 个同质性图)上超越了所有当前最先进方法,显示出卓越的性能和跨领域适应性。本工作的完整实现代码已公开于 https://github.com/cf020031308/MoNT,以促进可重复性和工业采纳。

关键词

引用

@article{arxiv.2604.08980,
  title  = {Neighbourhood Transformer: Switchable Attention for Monophily-Aware Graph Learning},
  author = {Yi Luo and Xu Sun and Guangchun Luo and Aiguo Chen},
  journal= {arXiv preprint arXiv:2604.08980},
  year   = {2026}
}