蒙眼攻击者仍具威胁：图上严格黑盒对抗攻击
机器学习
2021-09-01 v3 人工智能
摘要
图上的对抗攻击已引起相当多的研究兴趣。现有工作假设攻击者（部分）知晓受害者模型，或能够向其发送查询。然而，这些假设并不现实。为缩小理论图攻击与真实场景之间的差距，在本文中，我们提出了一种新颖且更现实的设定：严格黑盒图攻击，其中攻击者对受害者模型毫无了解且不允许发送任何查询。为设计这样一种攻击策略，我们首先提出一个通用图滤波器以统一不同族系的基于图的模型。攻击的强度随后可通过攻击前后图滤波器的变化来量化。通过最大化该变化，我们能够找到一种有效的攻击策略，而无需考虑底层模型。为解决该优化问题，我们还提出了一种松弛技术与近似理论，以降低难度及计算开销。实验表明，即便对模型无任何接触，Macro-F1 在节点分类中下降 6.4%，在图分类中下降 29.5%，与已有工作相比这是一个显著的结果。
引用
@article{arxiv.2012.06757,
title = {Blindfolded Attackers Still Threatening: Strict Black-Box Adversarial Attacks on Graphs},
author = {Jiarong Xu and Yizhou Sun and Xin Jiang and Yanhao Wang and Yang Yang and Chunping Wang and Jiangang Lu},
journal= {arXiv preprint arXiv:2012.06757},
year = {2021}
}