GCL是否需要大量负样本？基于有效且高效负采样的图对比学习
机器学习
2025-03-26 v1
摘要
图对比学习(GCL)旨在通过实例判别来自监�学习低维图表示，该方法涉及从图中手动挖掘正负样本对，增加正样本的相似性同时降低负样本的相似性。drawing from Contrastive Learning(CL)在其他领域的成功经验，已形成共识认为GCL的有效性取决于大量负样本。因此，尽管计算开销巨大，GCL通常会利用尽可能多的负节点对来提高模型性能。然而，鉴于图中节点是相互关联的，我们认为节点不能被视为独立的实例。因此，我们挑战了这一共识：大量负样本是否会导致更有效的GCL模型？为此，我们探讨了负样本在GCL常用的InfoNCE损失中的作用，观察到：(1)反直觉地，大量负样本实际上会阻碍模型区分具有不同语义的节点。(2)少量高质量且不拓扑耦合的负样本足以增强表示的判别性。基于这些发现，我们提出了一种新方法，称为Effective and Efficient Negative Sampling with GCL，E2Neg，该方法仅使用小量代表性负样本即可学习判别性表示。E2Neg显著减少了计算开销，加快了模型训练速度。我们在多个数据集上展示了E2Neg在其他GCL方法中的有效性和效率。
引用
@article{arxiv.2503.17908,
title = {Does GCL Need a Large Number of Negative Samples? Enhancing Graph Contrastive Learning with Effective and Efficient Negative Sampling},
author = {Yongqi Huang and Jitao Zhao and Dongxiao He and Di Jin and Yuxiao Huang and Zhen Wang},
journal= {arXiv preprint arXiv:2503.17908},
year = {2025}
}