GIMM:用于自动化图对比学习的 InfoMin-Max
机器学习
2023-05-30 v1 人工智能
摘要
图对比学习(GCL)在无监督图表示学习中展现出巨大潜力。数据增强在 GCL 中起着至关重要的作用,其最优选择严重依赖于下游任务。许多具有自动化数据增强的 GCL 方法面临信息不足的风险,因为它们未能保留下游任务所需的本质信息。为解决此问题,我们提出用于自动化图对比学习的 InfoMin-Max(GIMM),其防止 GCL 编码冗余信息并丢失本质信息。GIMM 由两个主要模块组成:(1)自动化图视图生成器,其通过对抗训练在不需任务相关信息的情况下获取 InfoMin 最优视图的近似;(2)视图比较,其通过对视图表示应用 InfoMax 来学习优秀的编码器。据我们所知,GIMM 是首个在 GCL 中结合 InfoMin 和 InfoMax 原则的方法。此外,GIMM 为增强引入随机性,从而稳定模型以抵抗扰动。在无监督和半监督的节点与图分类学习上的大量实验证明了我们的 GIMM 优于具有自动化和手动数据增强的 SOTA GCL 方法。
引用
@article{arxiv.2305.17437,
title = {GIMM: InfoMin-Max for Automated Graph Contrastive Learning},
author = {Xin Xiong and Furao Shen and Xiangyu Wang and Jian Zhao},
journal= {arXiv preprint arXiv:2305.17437},
year = {2023}
}