重新思考对比学习为半监督节点分类带来的提升
机器学习
2022-04-28 v2
摘要
图对比学习（GCL）已被证明能高效提升半监督节点分类（SSNC）的性能。然而，现有GCL方法通常从CV或NLP等其他领域迁移而来，其底层工作机制仍未被充分探索。本工作中，我们首先深入探究GCL在SSNC中的工作机制，发现GCL带来的提升分布极不均衡：改进主要来自于标注信息较少的子图，这与其他领域的对比学习有本质不同。然而，现有GCL方法通常忽略这种标注信息的分布不均，将GCL均匀应用于整个图。为弥补该问题并进一步提升SSNC中的GCL，我们提出了拓扑信息增益感知的图对比学习（TIFA-GCL）框架，该框架在GCL中考虑图上标注信息的分布。在六个基准图数据集（包括庞大的OGB-Products图）上的大量实验表明，TIFA-GCL在直推式和归纳式设定下均能比现有GCL方法带来更大的提升。进一步实验证明了TIFA-GCL的泛化性与可解释性。
引用
@article{arxiv.2012.07437,
title = {Rethinking the Promotion Brought by Contrastive Learning to Semi-Supervised Node Classification},
author = {Deli Chen and Yankai Lin and Lei Li and Xuancheng Ren and Peng Li and Jie Zhou and Xu Sun},
journal= {arXiv preprint arXiv:2012.07437},
year = {2022}
}
备注
Accepted by IJCAI-2022