针对层次图池化神经网络的对抗攻击
机器学习
2020-05-26 v1 密码学与安全
机器学习
摘要
近年来，图神经网络（GNN）的出现与发展备受瞩目，它已被证明是在节点分类和图分类等许多任务中进行图表示学习的强大方法。这些模型鲁棒性的研究也开始在机器学习领域引起关注。然而，该领域现有的大部分工作都集中在用于节点级任务的图神经网络上，而针对图分类任务的图神经网络鲁棒性研究却很少。本文旨在探索层次图池化（HGP）神经网络的脆弱性，这是一种先进的图神经网络，在图分类任务中预测精度方面表现优异。我们为此任务提出了一个对抗攻击框架。具体来说，我们设计了一个由卷积和池化算子组成的代理模型，用于生成对抗样本以欺骗基于层次图神经网络的图分类模型。我们将池化算子保留的节点设为攻击目标，然后轻微扰动这些攻击目标，以欺骗层次图神经网络中的池化算子，使其选择错误的节点进行保留。我们展示了由代理模型从多个数据集生成的对抗样本具有足够的可迁移性，能够攻击当前最先进的图分类模型。此外，我们对目标模型进行了鲁棒训练，并证明重新训练后的图分类模型能够更好地防御来自对抗样本的攻击。据我们所知，这是首个针对基于层次图神经网络的图分类模型进行对抗攻击的研究。
引用
@article{arxiv.2005.11560,
title = {Adversarial Attack on Hierarchical Graph Pooling Neural Networks},
author = {Haoteng Tang and Guixiang Ma and Yurong Chen and Lei Guo and Wei Wang and Bo Zeng and Liang Zhan},
journal= {arXiv preprint arXiv:2005.11560},
year = {2020}
}