面向查询高效的零阶自然梯度下降黑盒对抗样本
机器学习
2020-02-20 v1 密码学与安全
计算机视觉与模式识别
机器学习
摘要
尽管现代深度神经网络（DNNs）取得了巨大成就，但最先进 DNNs 的脆弱性/鲁棒性在许多要求高可靠性的应用领域中引发了安全担忧。各种对抗攻击被提出以破坏 DNN 模型的学习性能。其中，黑盒对抗攻击方法因其实用性和简洁性受到特别关注。黑盒攻击通常偏好较少的查询次数以维持隐蔽性和低成本。然而，当前大多数黑盒攻击方法采用一阶梯度下降法，可能存在收敛较慢和对超参数设置高度敏感等不足。本文提出一种零阶自然梯度下降（ZO-NGD）方法来设计对抗攻击，其结合了适应黑盒攻击场景的零阶梯度估计技术和二阶自然梯度下降，以实现更高的查询效率。在图像分类数据集上的实证评估表明，与最先进的攻击方法相比，ZO-NGD 能获得显著更低的模型查询复杂度。
引用
@article{arxiv.2002.07891,
title = {Towards Query-Efficient Black-Box Adversary with Zeroth-Order Natural Gradient Descent},
author = {Pu Zhao and Pin-Yu Chen and Siyue Wang and Xue Lin},
journal= {arXiv preprint arXiv:2002.07891},
year = {2020}
}
备注
accepted by AAAI 2020