自注意力赋能的图卷积网络用于结构学习与节点嵌入
机器学习
2024-03-07 v1 社会与信息网络
摘要
在图结构数据的表示学习中，许多流行的图神经网络（GNN）未能捕捉长程依赖关系，导致性能下降。此外，当所关注的图具有异配性（低同配性）特征时，这一弱点会被放大。为了解决这个问题，本文提出了一种名为带自注意力的图卷积网络（GCN-SA）的新型图学习框架。所提出的方案在节点级表示学习中表现出卓越的泛化能力。所提出的 GCN-SA 包含针对边和节点特征的两项增强。对于边，我们利用自注意力机制设计了一个稳定有效的图结构学习模块，该模块能够捕捉任意节点对之间的内部相关性。该图结构学习模块可以从整个图中为每个节点识别可靠的邻居。关于节点特征，我们修改了 Transformer 块，使其更适用于使 GCN 能够融合来自整个图的有价值信息。这两项增强以不同的方式发挥作用，帮助我们的 GCN-SA 捕捉长程依赖关系，使其能够在具有不同同配性水平的图上执行表示学习。在基准数据集上的实验结果证明了所提出的 GCN-SA 的有效性。与其他杰出的 GNN 同类模型相比，所提出的 GCN-SA 具有竞争力。
引用
@article{arxiv.2403.03465,
title = {Self-Attention Empowered Graph Convolutional Network for Structure Learning and Node Embedding},
author = {Mengying Jiang and Guizhong Liu and Yuanchao Su and Xinliang Wu},
journal= {arXiv preprint arXiv:2403.03465},
year = {2024}
}
备注
33 pages,6 figures,9 tables