基于软负样本的多重图对比学习
机器学习
2024-09-13 v1
摘要
图对比学习 (GCL) 旨在从图结构数据中学习包含最大一致信息的节点或图表示。尽管节点级对比模式占据主导地位,已有一些工作开始探索跨不同尺度的一致性。然而,它们往往容易丢失一致信息并受到干扰特征的污染。在此,我们引入 MUX-GCL,一种利用多重表示作为有效补丁的新型跨尺度对比学习范式。虽然这种学习模式最小化了污染噪声,但利用位置亲和度的相称对比策略通过纠正跨尺度的假负样本对,进一步避免了信息丢失。大量下游实验表明,MUX-GCL 在公开数据集上取得了多项 SOTA 结果。我们的理论分析进一步保证新目标函数是原始输入特征与输出嵌入互信息的更严格下界,从而为该范式提供了理论依据。代码可在 https://github.com/MUX-GCL/Code 获取。
引用
@article{arxiv.2409.08010,
title = {Multiplex Graph Contrastive Learning with Soft Negatives},
author = {Zhenhao Zhao and Minhong Zhu and Chen Wang and Sijia Wang and Jiqiang Zhang and Li Chen and Weiran Cai},
journal= {arXiv preprint arXiv:2409.08010},
year = {2024}
}