分层对比学习增强的异构图神经网络
机器学习
2024-03-06 v2
摘要
异构图神经网络（HGNNs）作为一种新兴技术，已展现出处理异构信息网络（HIN）的优越能力。然而，大多数 HGNN 遵循半监督学习范式，由于真实应用中标签通常稀缺，这显著限制了其广泛应用。近来，对比学习作为一种自监督方法，成为最令人振奋的学习范式之一，并在无标签时展现出巨大潜力。本文研究自监督 HGNN 问题，并提出一种用于 HGNN 的新型协同对比学习机制，名为 HeCo。不同于仅关注正负样本对比的传统对比学习，HeCo 采用跨视图对比机制。具体地，提出 HIN 的两个视图（网络模式与元路径视图）来学习节点嵌入，以同时捕获局部与高阶结构。随后提出跨视图对比学习及视图掩码机制，能够从两个视图中提取正负嵌入。这使得两个视图能够相互协同监督，最终学习到高级节点嵌入。此外，为进一步提升 HeCo 性能，设计了两种额外方法来生成高质量的更难负样本。除不变因子外，视图特定因子互补地提供不同节点间的多样结构信息，其亦应包含在最终嵌入中。因此，我们需进一步独立探索各视图并提出改进模型 HeCo++。具体地，HeCo++ 进行分层对比学习，包括跨视图与视图内对比，旨在增强各自结构的挖掘。
引用
@article{arxiv.2304.12228,
title = {Hierarchical Contrastive Learning Enhanced Heterogeneous Graph Neural Network},
author = {Nian Liu and Xiao Wang and Hui Han and Chuan Shi},
journal= {arXiv preprint arXiv:2304.12228},
year = {2024}
}
备注
This paper has been accepted by TKDE as a regular paper. arXiv admin note: substantial text overlap with arXiv:2105.09111