黑盒攻击中无矩阵对抗扰动的生成
机器学习
2020-02-19 v1 机器学习
摘要
一般而言，叠加在输入上的对抗扰动是深度神经网络（DNN）的现实威胁。本文提出一种实用的此类对抗扰动生成方法，用于仅需访问输入输出关系的黑盒攻击。因此，攻击者在生成此类扰动时无需调用 DNN 的内部函数及/或访问其内部状态。与早期研究不同，本研究提出的扰动生成算法所需的查询次数少得多。此外，为展示所提取对抗扰动的有效性，我们对一个用于语义分割的 DNN 进行了实验。结果表明，相较于使用同等幅值的均匀分布随机噪声，该网络更易被生成的扰动欺骗。
引用
@article{arxiv.2002.07317,
title = {On the Matrix-Free Generation of Adversarial Perturbations for Black-Box Attacks},
author = {Hisaichi Shibata and Shouhei Hanaoka and Yukihiro Nomura and Naoto Hayashi and Osamu Abe},
journal= {arXiv preprint arXiv:2002.07317},
year = {2020}
}