单遍对比学习可同时适用于同配与异配图
机器学习
2023-11-21 v4 社会与信息网络
摘要
现有的图对比学习（GCL）技术通常对单个实例需要两次前向传播以构造对比损失，这能有效捕捉节点特征的低频信号。这种双遍设计在同配图上已展现经验性成功，但其在异配图（直接相连节点通常具有不同标签）上的有效性尚属未知。此外，现有 GCL 方法无法提供较强的性能保证。加之 GCL 方法在异配图上的不可预测性，其在真实场景中的适用性受限。于是，一个自然的问题随之产生：我们能否设计一种适用于同配与异配图且带有性能保证的 GCL 方法？为回答该问题，我们从理论上研究了同配与异配图上经邻域聚合所得特征的集中性质，基于该性质引入了无增强的单遍图对比学习损失，并为该损失在下游任务上的极小化器提供了性能保证。作为我们分析的直接结果，我们实现了单遍图对比学习法（SP-GCL）。在 14 个具有不同同配程度的基准数据集上的经验表明，SP-GCL 学到的特征能以显著更少的计算开销匹配或超越现有强基线，这证明了我们的发现在真实案例中的实用性。
引用
@article{arxiv.2211.10890,
title = {Single-Pass Contrastive Learning Can Work for Both Homophilic and Heterophilic Graph},
author = {Haonan Wang and Jieyu Zhang and Qi Zhu and Wei Huang and Kenji Kawaguchi and Xiaokui Xiao},
journal= {arXiv preprint arXiv:2211.10890},
year = {2023}
}
备注
This article has been accepted for publication by the Transactions on Machine Learning Research. OpenReview at: https://openreview.net/forum?id=244KePn09i