利用图神经网络生成对抗样本
机器学习
2021-06-01 v1 密码学与安全
摘要
近年来，对抗攻击已被部署用于评估神经网络的鲁棒性。该领域的以往工作依赖于忽略问题及数据固有结构的传统优化算法，或纯粹依赖学习且常在难以发现对抗样本处失效的生成方法。为缓解这些缺陷，我们提出一种基于图神经网络（GNN）的新型攻击，它结合了两种方法的优势，称之为AdvGNN。我们的GNN架构与待攻击网络高度相似。推理时，我们通过GNN层执行前向-反向传播，以引导迭代过程趋向对抗样本。训练时，其参数通过鼓励在时间范围内高效计算对抗样本的损失函数来估计。我们表明，我们的方法击败了最先进的对抗攻击，包括PGD-attack、MI-FGSM以及Carlini and Wagner攻击，将以小扰动范数生成对抗样本所需时间减少超过65%。此外，AdvGNN在未见网络上实现了良好的泛化性能。最后，我们提供了一个专门设计的全新挑战性数据集，以便更直观地比较各类对抗攻击。
引用
@article{arxiv.2105.14644,
title = {Generating Adversarial Examples with Graph Neural Networks},
author = {Florian Jaeckle and M. Pawan Kumar},
journal= {arXiv preprint arXiv:2105.14644},
year = {2021}
}
备注
To be published in UAI 2021