CORE:基于对比掩码特征重构的图结构自监督学习
机器学习
2025-12-16 v1 人工智能
摘要
在图结构自监督学习领域,生成式和对比式方法日益成为两种主流方法。我们聚焦于掩码特征重构(MFR),这是一种生成式技术,通过自监督方式学习恢复被掩码节点原始特征的模型。我们观察到,MFR和图对比学习(GCL)都旨在最大化相似元素之间的一致性。基于这一观察,我们揭示了一个新理论洞见:在特定条件下,MFR和节点级GCL的目标函数会收敛,尽管其操作机制不同。这种理论联系表明,这些方法是互补的,而非根本不同的,这促使我们探索将其集成以增强图结构上的自监督学习。我们的研究提出了对比掩码特征重构(CORE),一种新的图结构自监督学习框架,将对比学习集成到MFR中。具体而言,我们仅将原始特征与重构特征的配对作为正样本,鼓励编码器优先关注上下文信息而非节点自身特征。此外,我们利用被掩码节点本身作为负样本,结合MFR的重构能力与GCL的判别能力,以更好地捕捉图的内在结构。实验上,我们提出的框架CORE在节点和图分类任务上均显著优于MFR,实现了最先进的成绩。特别是,CORE在节点分类任务上相较于GraphMAE和GraphMAE2提升最高可达2.80%和3.72%,在图分类任务上提升最高可达3.82%和3.76%。
引用
@article{arxiv.2512.13235,
title = {CORE: Contrastive Masked Feature Reconstruction on Graphs},
author = {Jianyuan Bo and Yuan Fang},
journal= {arXiv preprint arXiv:2512.13235},
year = {2025}
}