中文

SAIL:自增强图对比学习

机器学习 2021-12-16 v2 机器学习

摘要

本文研究在无监督场景下利用图神经网络(GNNs)学习节点表示。具体而言,我们给出了理论分析并实证展示了当监督信号未被恰当地定义时,GNNs在不同图数据集上性能不稳定的现象。GNNs的性能取决于节点特征平滑度与图结构的局部性。为平滑由图拓扑与节点特征度量的节点邻近性之间的差异,我们提出SAIL——一种新颖的\underline{S}elf-\underline{A}ugmented图对比\underline{i}ve \underline{L}earning(自增强图对比学习)框架,具有两个互补的自蒸馏正则化模块,即图内与图间知识蒸馏。我们在多种图应用上展示了SAIL的竞争性性能。即便仅使用单层GNN,SAIL在各基准数据集上相较SOTA基线仍具有持续竞争甚至更优的性能。

关键词

引用

@article{arxiv.2009.00934,
  title  = {SAIL: Self-Augmented Graph Contrastive Learning},
  author = {Lu Yu and Shichao Pei and Lizhong Ding and Jun Zhou and Longfei Li and Chuxu Zhang and Xiangliang Zhang},
  journal= {arXiv preprint arXiv:2009.00934},
  year   = {2021}
}

备注

Accepted by AAAI2022, 10 pages, 3 figures