用于欺骗深度神经网络的随机方向攻击
密码学与安全
2019-08-08 v1 机器学习
神经与进化计算
摘要
深度神经网络（DNNs）已广泛应用于图像处理、语音识别等诸多领域；然而，它们易受对抗样本的攻击，这是一个值得关注的安全问题。由于 DNNs 的训练过程通过沿梯度下降方向更新权重来使损失收敛，许多基于梯度的方法试图通过在梯度方向上添加扰动来破坏 DNN 模型。遗憾的是，由于模型在大多数情况下是非线性的，在梯度方向上添加扰动未必会增加损失。因此，本文提出一种随机方向攻击（RDA）用于生成对抗样本。RDA 不局限于在梯度方向上生成攻击，而是基于爬山法搜索攻击方向，并采用多种策略以避免导致攻击失败的局部最优。与最先进的基于梯度的方法相比，RDA 的攻击性能极具竞争力。此外，RDA 可在无任何模型内部知识的情况下发起攻击，其在黑盒攻击下的性能在大多数情况下与白盒攻击相似，这使用现有基于梯度的攻击方法难以实现。
引用
@article{arxiv.1908.02658,
title = {Random Directional Attack for Fooling Deep Neural Networks},
author = {Wenjian Luo and Chenwang Wu and Nan Zhou and Li Ni},
journal= {arXiv preprint arXiv:1908.02658},
year = {2019}
}
备注
13pages