Cluster Attack：基于查询且利用图相关先验的图对抗攻击
机器学习
2022-07-26 v2 人工智能
密码学与安全
摘要
尽管深度神经网络在图分析中取得巨大成功，近期工作表明它们易受对抗攻击。相较于图像分类上的对抗攻击，图上的对抗攻击更具挑战性，因为图的邻接矩阵具有离散且不可微的性质。本文中，我们提出 Cluster Attack——一种针对节点分类的图注入攻击（GIA），其向原始图中注入虚假节点以劣化图神经网络（GNNs）在特定受害节点上的性能，同时尽可能少地影响其他节点。我们证明 GIA 问题可等价表述为图聚类问题；因此，邻接矩阵的离散优化问题可在图聚类框架下求解。具体而言，我们提出以对抗脆弱性（Adversarial Vulnerability）度量受害节点间相似性，该度量与受害节点受注入虚假节点影响的程度相关，并据此对受害节点聚类。我们的攻击以实用且难以察觉的基于查询的黑盒方式进行，仅能访问图上极少数节点。理论分析与大量实验表明，该方法仅需少量查询即可欺骗节点分类器，行之有效。
引用
@article{arxiv.2109.13069,
title = {Cluster Attack: Query-based Adversarial Attacks on Graphs with Graph-Dependent Priors},
author = {Zhengyi Wang and Zhongkai Hao and Ziqiao Wang and Hang Su and Jun Zhu},
journal= {arXiv preprint arXiv:2109.13069},
year = {2022}
}
备注
IJCAI 2022 (Long Presentation)