鲁棒优化作为大规模图的数据增强方法
机器学习
2022-03-30 v3 机器学习
摘要
数据增强通过扩大训练集来帮助神经网络更好地泛化，但如何有效地增强图数据以提升 GNN（图神经网络）的性能仍是一个开放问题。尽管大多数现有的图正则化器侧重于通过添加/删除边来操纵图拓扑结构，我们提出了一种增强节点特征以获得更好性能的方法。我们提出 FLAG（Free Large-scale Adversarial Augmentation on Graphs，图上自由大规模对抗增强），它在训练期间通过基于梯度的对抗扰动迭代地增强节点特征。通过使模型对输入数据中的微小波动保持不变，我们的方法帮助模型泛化到分布外样本，并提升模型在测试时的性能。FLAG 是一种适用于图数据的通用方法，可普遍用于节点分类、链接预测和图分类任务。FLAG 还具有高度灵活性和可扩展性，可部署于任意 GNN 骨干网络和大规模数据集。我们通过大量实验和消融研究证明了我们方法的有效性和稳定性。我们还提供了直观的观察以更深入地理解我们的方法。
引用
@article{arxiv.2010.09891,
title = {Robust Optimization as Data Augmentation for Large-scale Graphs},
author = {Kezhi Kong and Guohao Li and Mucong Ding and Zuxuan Wu and Chen Zhu and Bernard Ghanem and Gavin Taylor and Tom Goldstein},
journal= {arXiv preprint arXiv:2010.09891},
year = {2022}
}
备注
Accepted at CVPR 2022