计算机视觉中的对抗攻击综述
计算机视觉与模式识别
2023-08-16 v1 统计计算
机器学习
摘要
深度神经网络已广泛应用于各类下游任务,尤其是自动驾驶等安全关键场景,但深度网络常受对抗样本威胁。此类对抗攻击对人眼不可见,却可导致 DNN 误分类,且常表现出深度学习与机器学习模型间的可迁移性以及现实世界的可实现性。对抗攻击可分为白盒攻击(攻击方知晓模型参数与梯度)与黑盒攻击(攻击方仅能获取模型输入与输出)。就攻击方目的而言,可分为目标攻击与非目标攻击:前者指攻击方欲使模型将原始样本误分类至指定类别,更具实用性;后者仅需使模型误分类样本。黑盒设定是我们在实践中会遇到的场景。
引用
@article{arxiv.2308.07673,
title = {A Review of Adversarial Attacks in Computer Vision},
author = {Yutong Zhang and Yao Li and Yin Li and Zhichang Guo},
journal= {arXiv preprint arXiv:2308.07673},
year = {2023}
}