基于自助法的自监督图表示学习
机器学习
2020-11-13 v2 人工智能
摘要
图神经网络~(GNNs) 将深度学习技术应用于图结构数据,并在图表示学习中取得了令人瞩目的性能。然而,现有 GNNs 严重依赖足够的标签或精心设计的负样本。为解决这些问题,我们提出一种新的自监督图表示方法:深度图自助法~(DGB)。DGB 由两个神经网络组成:在线网络与目标网络,它们的输入是初始图的不同增广视图。在线网络被训练以预测目标网络,而目标网络通过在线网络的慢速滑动平均更新,这意味着在线与目标网络可相互学习。因此,所提出的 DGB 可在无负例的情况下以无监督方式学习图表示。此外,我们总结了三类图结构数据的增广方法并将其应用于 DGB。在基准数据集上的实验表明,DGB 优于当前最先进方法,并揭示了增广方法如何影响性能。
引用
@article{arxiv.2011.05126,
title = {Self-supervised Graph Representation Learning via Bootstrapping},
author = {Feihu Che and Guohua Yang and Dawei Zhang and Jianhua Tao and Pengpeng Shao and Tong Liu},
journal= {arXiv preprint arXiv:2011.05126},
year = {2020}
}