具有性能保证的无增广图对比学习
机器学习
2022-06-07 v2 社会与信息网络
摘要
图对比学习 (GCL) 是图结构数据上最具代表性且最流行的自监督学习方法。尽管取得了显著成功，现有 GCL 方法高度依赖增广方案来学习不同增广视图间不变的表示。本工作中，我们通过谱理论的视角审视图数据上增广技术的效果，重新审视 GCL 中的这一惯例。我们发现图增广保留了图的低频分量并扰动中高频分量，这促成了 GCL 算法在同配图上的成功，但由于异配数据的高频偏好，阻碍了其在异配图上的应用。受此启发，我们提出了一种新颖的、理论严谨且无需增广的 GCL 方法，名为 AF-GCL，其 (1) 利用图神经网络聚合的特征来构造自监督信号而非使用增广，因此 (2) 对图同配程度的敏感性较低。理论上，我们给出了 AF-GCL 的性能保证以及对理解 AF-GCL 有效性的分析。在 14 个具有不同异配程度的基准数据集上的大量实验表明，AF-GCL 在同配图上表现出有竞争力或更好的性能，并在异配图上以显著更少的计算开销优于所有现有最先进的 GCL 方法。
引用
@article{arxiv.2204.04874,
title = {Augmentation-Free Graph Contrastive Learning with Performance Guarantee},
author = {Haonan Wang and Jieyu Zhang and Qi Zhu and Wei Huang},
journal= {arXiv preprint arXiv:2204.04874},
year = {2022}
}