中文

基于生成对抗网络的图对比学习

机器学习 2023-08-02 v1

摘要

图神经网络(GNNs)通过有监督的端到端训练,在利用节点表示完成许多下游任务方面已展现出有前景的结果。为应对现实应用中普遍存在的标签稀缺问题,图对比学习(GCL)通过最大化原始图生成的增强视图中节点间的互信息,以有限甚至无标签的方式训练 GNNs。然而,现有多数文献在视图生成中未考虑图的分布,从而忽略了未见边,我们的实验经验表明这些未见边能够提升 GCL 的性能。为此,我们提出引入图生成对抗网络(GANs)来学习 GCL 的视图分布,以 i) 自动捕捉图的特征用于增强,以及 ii) 联合训练图 GAN 模型与 GCL 模型。具体而言,我们提出 GACN,一种用于图表示学习的新型生成对抗对比学习网络。GACN 设计了一个视图生成器与一个视图判别器,以对抗方式自动生成增强视图。随后,GACN 利用这些视图通过两个精心设计的自监督学习损失(包括图对比损失与贝叶斯个性化排序损失)来训练 GNN 编码器。此外,我们设计了一个优化框架来联合训练所有 GACN 模块。在七个真实世界数据集上的大量实验表明,GACN 能够为 GCL 生成高质量增强视图,并优于十二种最先进的基线方法。值得注意的是,我们提出的 GACN 意外地发现,数据增强中生成的视图最终符合在线网络中著名的优先连接规则。

关键词

引用

@article{arxiv.2308.00535,
  title  = {Graph Contrastive Learning with Generative Adversarial Network},
  author = {Cheng Wu and Chaokun Wang and Jingcao Xu and Ziyang Liu and Kai Zheng and Xiaowei Wang and Yang Song and Kun Gai},
  journal= {arXiv preprint arXiv:2308.00535},
  year   = {2023}
}

备注

KDD 2023