中文

基于软邻域感知的单视图图对比学习

机器学习 2024-12-13 v1

摘要

大多数图对比学习(GCL)方法严重依赖跨视图对比,因而面临设计有效数据增强、视图之间信息丢失以及计算成本增加等挑战。为缓解对跨视图对比的依赖,我们提出一种新颖的单视图图对比学习框架\ttt{SIGNA}。针对结构连接与语义相似性之间的不一致,我们采用软邻域感知进行GCL。具体而言,我们利用dropout获取与结构相关但随机无噪声的嵌入对,作为潜在的正样本。在每个 epoch 中,部分邻域的角色从正样本切换为负样本,从而实现概率化的邻域对比学习效果。此外,我们提出一种归一化的 Jensen-Shannon 散度估计器,以获得更佳的对比学习效果。令人惊讶的是,在多项节点级任务上的实验表明,我们的简单单视图GCL框架 consistently 超过现有方法,提升幅度最高可达21.74%(PPI)。特别是,通过软邻域感知,SIGNA可以采用 MLP 代替复杂的 GCN 作为编码器来生成表征,从而将其推理速度提高了109倍至331倍。源代码已公开于 https://github.com/sunisfighting/SIGNA。

关键词

引用

@article{arxiv.2412.09261,
  title  = {Single-View Graph Contrastive Learning with Soft Neighborhood Awareness},
  author = {Qingqiang Sun and Chaoqi Chen and Ziyue Qiao and Xubin Zheng and Kai Wang},
  journal= {arXiv preprint arXiv:2412.09261},
  year   = {2024}
}

备注

Accepted by AAAI2025; full version including appendix