面向更实用的图神经网络对抗攻击
机器学习
2021-10-28 v3 机器学习
摘要
我们研究图神经网络(GNNs)在一种新颖且现实约束下的黑盒攻击：攻击者仅能访问网络中节点的一个子集，且只能攻击其中少数节点。在此设定下，节点选择步骤至关重要。我们证明 GNN 模型的结构归纳偏置可作为此类攻击的有效来源。具体而言，通过利用 GNN 反向传播与随机游走之间的联系，我们表明常见的基于梯度的白盒攻击可通过梯度与类似于 PageRank 的重要性分数之间的联系推广至黑盒设定。在实践中，我们发现基于该重要性分数的攻击确实大幅增加了分类损失，但未能显著提高误分类率。我们的理论与实证分析表明，损失与误分类率之间存在差异，因为后者在受攻击节点数量增加时呈现收益递减模式。因此，我们提出一种贪心过程来修正重要性分数，以考虑收益递减模式。实验结果表明，所提过程能在不访问模型参数与预测的情况下，显著提高真实世界数据上常见 GNN 的误分类率。
引用
@article{arxiv.2006.05057,
title = {Towards More Practical Adversarial Attacks on Graph Neural Networks},
author = {Jiaqi Ma and Shuangrui Ding and Qiaozhu Mei},
journal= {arXiv preprint arXiv:2006.05057},
year = {2021}
}
备注
NeurIPS 2020, Code Link Update