用于改进图对比学习的对抗图增强
机器学习
2021-11-04 v4 人工智能
摘要
由于现实世界图/网络数据中普遍存在的标签稀缺问题，图神经网络（GNN）的自监督学习需求巨大。图对比学习（GCL）通过训练 GNN 最大化同一图的不同增强形式表示之间的对应关系，即使不使用标签也能产生鲁棒且可迁移的 GNN。然而，由传统 GCL 训练的 GNN 常面临捕获冗余图特征的风险，从而在下游任务中脆弱且表现欠佳。在此，我们提出一种称为对抗式 GCL（AD-GCL）的新原则，其通过优化 GCL 中使用的对抗图增强策略，使 GNN 在训练时避免捕获冗余信息。我们将 AD-GCL 与理论解释相结合，并基于可训练的丢边图增强设计了一个实用实例。我们通过与最先进的 GCL 方法比较实验验证了 AD-GCL，在 18 个不同基准数据集上针对分子性质回归与分类、以及社交网络分类任务，在无监督、迁移和半监督学习设定中分别总体实现了最高 14%、6% 和 3% 的性能提升。
引用
@article{arxiv.2106.05819,
title = {Adversarial Graph Augmentation to Improve Graph Contrastive Learning},
author = {Susheel Suresh and Pan Li and Cong Hao and Jennifer Neville},
journal= {arXiv preprint arXiv:2106.05819},
year = {2021}
}
备注
Accepted to NeurIPS 2021