基于互信息与自监督双层聚合的节点嵌入
机器学习
2021-04-28 v1
摘要
图神经网络（GNNs）通过聚合图中节点的邻域信息来学习节点的低维表示。然而，传统的 GNN 由于其局部（-跳邻域）聚合方案而存在两个基本缺陷。首先，并非邻域中的所有节点都携带与目标节点相关的信息。由于 GNN 不排除其邻域中的噪声节点，不相关信息被聚合，这降低了表示的质量。其次，传统 GNN 也未能捕获节点间长距离非局部依赖关系。为解决这些局限，我们利用互信息（MI）定义两类邻域：1）局部邻域，其中节点在社区内密集连接且每个节点与其邻居共享更高的 MI；2）非局部邻域，其中引入基于 MI 的节点聚类以将信息丰富但图上距离远的节点组装在同一簇中。为生成节点表示，我们结合由双层聚合生成的嵌入——局部聚合以从局部邻域聚合特征从而避免噪声信息，以及非局部聚合以从非局部邻域聚合特征。此外，我们利用自监督学习以少量标注数据估计 MI。最后，我们表明我们的模型在广泛的同配与异配图上显著优于最先进方法。
引用
@article{arxiv.2104.13014,
title = {Node Embedding using Mutual Information and Self-Supervision based Bi-level Aggregation},
author = {Kashob Kumar Roy and Amit Roy and A K M Mahbubur Rahman and M Ashraful Amin and Amin Ahsan Ali},
journal= {arXiv preprint arXiv:2104.13014},
year = {2021}
}
备注
Accepted at IJCNN 2021