SpeGCL：基于负样本的自监督图谱谱对比学习
机器学习
2024-10-15 v1 人工智能
摘要
图谱对比学习（GCL）在处理输入数据的噪声和波动方面表现突出，广泛应用于社交网络和知识图谱等领域。我们的研究发现，增广图之间高频信息的差异大于低频信息的差异。然而，大多数现有GCL方法主要关注节点特征表示的时域（低频信息），无法充分利用高频信息加速模型收敛。此外，现有GCL范式通过拉近正样本对的距离并推远正负样本对的距离来优化图嵌入表示，但我们的理论分析表明，图谱对比学习受益于推远负样本对的距离而非拉近正样本对的距离。为解决上述问题，我们提出了一个无需正样本的新型谱GCL框架，命名为SpeGCL。具体而言，SpeGCL使用傅里叶变换提取节点特征的高频和低频信息，并在傅里叶空间构建对比学习机制以获得更好的节点特征表示。此外，SpeGCL完全依赖负样本来细化图嵌入。我们还提供了仅使用负样本在SpeGCL中有效性的理论依据。大量实验在无监督学习、传递学习和半监督学习上验证了SpeGCL框架在状态机械GCL方法方面的优势。
引用
@article{arxiv.2410.10365,
title = {SpeGCL: Self-supervised Graph Spectrum Contrastive Learning without Positive Samples},
author = {Yuntao Shou and Xiangyong Cao and Deyu Meng},
journal= {arXiv preprint arXiv:2410.10365},
year = {2024}
}
备注
13 pages, 3 figures