保持传递性的图表示学习：桥接局部连通性与基于角色的相似性
机器学习
2023-08-21 v1 社会与信息网络
摘要
图表示学习（GRL）方法，如图神经网络和图 transformer 模型，已成功用于分析图结构数据，主要关注节点分类和链接预测任务。然而，现有研究大多仅考虑局部连通性，而忽略了长程连通性和节点的角色。在本文中，我们提出了统一图 Transformer 网络（UGT），其将局部和全局结构信息有效地整合到定长向量表示中。首先，UGT 通过识别局部子结构并聚合每个节点的 跳邻域特征来学习局部结构。其次，我们构建虚拟边，将具有结构相似性的远距离节点连接起来以捕获长程依赖。第三，UGT 通过自注意力学习统一表示，编码节点对之间的结构距离和 步转移概率。此外，我们提出了一种自监督学习任务，可有效学习转移概率以融合局部和全局结构特征，进而可迁移到其他下游任务。在真实世界基准数据集上针对多种下游任务的实验结果表明，UGT 显著优于由最先进模型组成的基线。此外，UGT 在区分非同构图对方面达到了三阶 Weisfeiler-Lehman 同构测试（3d-WL）的表达能力。源代码可在 https://github.com/NSLab-CUK/Unified-Graph-Transformer 获取。
引用
@article{arxiv.2308.09517,
title = {Transitivity-Preserving Graph Representation Learning for Bridging Local Connectivity and Role-based Similarity},
author = {Van Thuy Hoang and O-Joun Lee},
journal= {arXiv preprint arXiv:2308.09517},
year = {2023}
}
备注
13 pages