中文

基于协同对比学习的自监督异质图神经网络

机器学习 2021-05-20 v1

摘要

异质图神经网络(HGNNs)作为一种新兴技术,在处理异质信息网(HIN)方面已展现出优越能力。然而,大多数 HGNNs 遵循半监督学习范式,由于真实应用中标签通常稀缺,这显著限制了其广泛应用。近来,对比学习作为一种自监督方法,成为最令人振奋的学习范式之一,并在无标签时展现出巨大潜力。本文研究自监督 HGNNs 问题,并提出一种用于 HGNNs 的新型协同对比学习机制,称为 HeCo。不同于仅关注正负样本对比的传统对比学习,HeCo 采用跨视图对比机制。具体而言,提出 HIN 的两个视图(网络模式视图与元路径视图)来学习节点嵌入,以同时捕获局部与高阶结构。随后提出跨视图对比学习及视图掩码机制,能够从两个视图中提取正嵌入与负嵌入。这使得两个视图能够协同相互监督,最终学习到高级节点嵌入。此外,设计了 HeCo 的两种扩展以生成高质量的更难负样本,进一步提升了 HeCo 的性能。在多种真实网络上的大量实验表明,所提方法优于最先进方法。

关键词

引用

@article{arxiv.2105.09111,
  title  = {Self-supervised Heterogeneous Graph Neural Network with Co-contrastive Learning},
  author = {Xiao Wang and Nian Liu and Hui Han and Chuan Shi},
  journal= {arXiv preprint arXiv:2105.09111},
  year   = {2021}
}

备注

This paper has been accepted by KDD 2021