面向异质图对比学习的结构感知难负样本挖掘
机器学习
2021-09-01 v1 社会与信息网络
摘要
近年来,异质图神经网络(GNNs)已成为分析异质图(HGs)的事实标准模型,而其中多数依赖于相对大量的标注数据。本工作中,我们研究自监督方法的关键组件——对比学习(CL)在异质图上的应用,以缓解标签稀缺问题。我们首先依据元路径与网络模式生成多个语义视图。随后,通过将对应不同语义视图的节点嵌入彼此推近(正样本)并将其他嵌入拉远(负样本),可在无人工标注下获得信息丰富的表示。然而,该 CL 方法忽略了负样本的相对难度,可能导致次优性能。考虑到复杂的图结构及 GNN 的平滑特性,我们提出了一种基于结构特征度量难度的结构感知难负样本挖掘方案。通过合成更多负节点,我们以有限计算开销对更难负样本赋予更大权重,以进一步提升性能。在三个真实世界数据集上的实证研究表明了所提方法的有效性。该方法持续优于现有最先进(state-of-the-art)方法,且值得注意的是,甚至超越若干有监督对应方法。
引用
@article{arxiv.2108.13886,
title = {Structure-Aware Hard Negative Mining for Heterogeneous Graph Contrastive Learning},
author = {Yanqiao Zhu and Yichen Xu and Hejie Cui and Carl Yang and Qiang Liu and Shu Wu},
journal= {arXiv preprint arXiv:2108.13886},
year = {2021}
}
备注
KDD Workshop on Deep Learning on Graphs: Method and Applications (DLG@KDD 2021)