中文

GIMM:用于自动化图对比学习的 InfoMin-Max

机器学习 2023-05-30 v1 人工智能

摘要

图对比学习(GCL)在无监督图表示学习中展现出巨大潜力。数据增强在 GCL 中起着至关重要的作用,其最优选择严重依赖于下游任务。许多具有自动化数据增强的 GCL 方法面临信息不足的风险,因为它们未能保留下游任务所需的本质信息。为解决此问题,我们提出用于自动化图对比学习的 InfoMin-Max(GIMM),其防止 GCL 编码冗余信息并丢失本质信息。GIMM 由两个主要模块组成:(1)自动化图视图生成器,其通过对抗训练在不需任务相关信息的情况下获取 InfoMin 最优视图的近似;(2)视图比较,其通过对视图表示应用 InfoMax 来学习优秀的编码器。据我们所知,GIMM 是首个在 GCL 中结合 InfoMin 和 InfoMax 原则的方法。此外,GIMM 为增强引入随机性,从而稳定模型以抵抗扰动。在无监督和半监督的节点与图分类学习上的大量实验证明了我们的 GIMM 优于具有自动化和手动数据增强的 SOTA GCL 方法。

关键词

引用

@article{arxiv.2305.17437,
  title  = {GIMM: InfoMin-Max for Automated Graph Contrastive Learning},
  author = {Xin Xiong and Furao Shen and Xiangyu Wang and Jian Zhao},
  journal= {arXiv preprint arXiv:2305.17437},
  year   = {2023}
}