基于软邻域感知的单视图图对比学习
机器学习
2024-12-13 v1
摘要
大多数图对比学习(GCL)方法严重依赖跨视图对比,因而面临设计有效数据增强、视图之间信息丢失以及计算成本增加等挑战。为缓解对跨视图对比的依赖,我们提出一种新颖的单视图图对比学习框架\ttt{SIGNA}。针对结构连接与语义相似性之间的不一致,我们采用软邻域感知进行GCL。具体而言,我们利用dropout获取与结构相关但随机无噪声的嵌入对,作为潜在的正样本。在每个 epoch 中,部分邻域的角色从正样本切换为负样本,从而实现概率化的邻域对比学习效果。此外,我们提出一种归一化的 Jensen-Shannon 散度估计器,以获得更佳的对比学习效果。令人惊讶的是,在多项节点级任务上的实验表明,我们的简单单视图GCL框架 consistently 超过现有方法,提升幅度最高可达21.74%(PPI)。特别是,通过软邻域感知,SIGNA可以采用 MLP 代替复杂的 GCN 作为编码器来生成表征,从而将其推理速度提高了109倍至331倍。源代码已公开于 https://github.com/sunisfighting/SIGNA。
关键词
引用
@article{arxiv.2412.09261,
title = {Single-View Graph Contrastive Learning with Soft Neighborhood Awareness},
author = {Qingqiang Sun and Chaoqi Chen and Ziyue Qiao and Xubin Zheng and Kai Wang},
journal= {arXiv preprint arXiv:2412.09261},
year = {2024}
}
备注
Accepted by AAAI2025; full version including appendix