基于协同对比学习的自监督异质图神经网络
机器学习
2021-05-20 v1
摘要
异质图神经网络(HGNNs)作为一种新兴技术,在处理异质信息网(HIN)方面已展现出优越能力。然而,大多数 HGNNs 遵循半监督学习范式,由于真实应用中标签通常稀缺,这显著限制了其广泛应用。近来,对比学习作为一种自监督方法,成为最令人振奋的学习范式之一,并在无标签时展现出巨大潜力。本文研究自监督 HGNNs 问题,并提出一种用于 HGNNs 的新型协同对比学习机制,称为 HeCo。不同于仅关注正负样本对比的传统对比学习,HeCo 采用跨视图对比机制。具体而言,提出 HIN 的两个视图(网络模式视图与元路径视图)来学习节点嵌入,以同时捕获局部与高阶结构。随后提出跨视图对比学习及视图掩码机制,能够从两个视图中提取正嵌入与负嵌入。这使得两个视图能够协同相互监督,最终学习到高级节点嵌入。此外,设计了 HeCo 的两种扩展以生成高质量的更难负样本,进一步提升了 HeCo 的性能。在多种真实网络上的大量实验表明,所提方法优于最先进方法。
引用
@article{arxiv.2105.09111,
title = {Self-supervised Heterogeneous Graph Neural Network with Co-contrastive Learning},
author = {Xiao Wang and Nian Liu and Hui Han and Chuan Shi},
journal= {arXiv preprint arXiv:2105.09111},
year = {2021}
}
备注
This paper has been accepted by KDD 2021