中文

TANGNN:基于 Top-m 注意力机制的简洁、可扩展且高效的图神经网络

机器学习 2025-02-04 v1 人工智能

摘要

在深度学习领域,图神经网络(GNNs)和图转换器模型因其卓越的性能和灵活的架构设计,已成为处理结构化数据,尤其是图数据的领导技术。传统 GNNs 常面临无法有效捕获远距离顶点的信息的挑战。相比之下,图转换器模型在处理长距离节点关系方面尤为出色。尽管具有上述优势,图转换器模型在扩展到大型图数据集时仍遇到计算和存储效率问题。为此,我们提出了一种创新的图神经网络(GNN)架构,集成了 Top-m 注意力机制聚合组件和邻域聚合组件,有效提升了模型在每一层从本地和远程邻域收集相关信息的能力。这一方法不仅提高了计算效率,也丰富了节点特征,促进了对复杂图结构的深入分析。此外,为评估我们提出模型的有效性,我们将其应用于引用情感预测,这是 GNN 领域此前未探索的任务。相应地,我们构建了一个专门的引用网络,ArXivNet。在该数据集中,我们特别标注了引用的情感极性(积极、中性、消极),以实现深入的情感分析。我们的做法在包括顶点分类、链路预测、情感预测、图回归和可视化在内的各种任务中均表现优异。实验结果在多个数据集上表明,我们的方法在有效性方面优于现有方法。

关键词

引用

@article{arxiv.2411.15458,
  title  = {TANGNN: a Concise, Scalable and Effective Graph Neural Networks with Top-m Attention Mechanism for Graph Representation Learning},
  author = {Jiawei E and Yinglong Zhang and Xuewen Xia and Xing Xu},
  journal= {arXiv preprint arXiv:2411.15458},
  year   = {2025}
}

备注

The code and ArXivNet dataset are available at https://github.com/ejwww/TANGNN