当对比学习遇上主动学习:一种带自监督的新型图主动学习范式
机器学习
2021-04-19 v2 机器学习
摘要
本文研究图上的主动学习(AL),其目的是发现最具信息量的节点以最大化图神经网络(GNNs)的性能。此前,大多数图 AL 方法侧重于从精心挑选的带标签数据集学习节点表示,而大量无标签数据被忽视。受对比学习(CL)成功的启发,我们提出一种将图 AL 与 CL 无缝集成的新范式。在能够以自监督方式利用丰富无标签数据力量的同时,由 AL 选择的节点进一步提供能更好引导表示学习的语义信息。此外,先前工作衡量节点信息量时未考虑 GNNs 的邻域传播机制,从而可能选入噪声节点。我们认为,由于 GNNs 的平滑特性,来自同嗜子图的中央节点应最有益于模型训练。为此,我们提出一种极小极大选择方案,显式利用邻域信息并发现同嗜子图以促进主动选择。在五个公开数据集上全面、无混杂的实验证明了我们的方法优于 SOTA。
引用
@article{arxiv.2010.16091,
title = {When Contrastive Learning Meets Active Learning: A Novel Graph Active Learning Paradigm with Self-Supervision},
author = {Yanqiao Zhu and Weizhi Xu and Qiang Liu and Shu Wu},
journal= {arXiv preprint arXiv:2010.16091},
year = {2021}
}
备注
Preliminary work, 16 pages