对抗色彩投影：一种基于投影仪的针对 DNN 的物理攻击
密码学与安全
2023-05-24 v2 计算机视觉与模式识别
摘要
近期研究表明，深度神经网络（DNNs）易受对抗扰动的影响。因此，评估先进 DNN 对对抗攻击的鲁棒性势在必行。然而，传统方法使用贴纸作为物理扰动来欺骗分类器，在隐蔽性方面面临挑战，且易受打印损失影响。近来，物理攻击的进展利用光束（如激光）实施攻击，其生成的光学图案是人工而非自然的。在本工作中，我们提出一种基于黑盒投影仪的物理攻击，称为对抗色彩投影（AdvCP），其通过操控色彩投影的物理参数来实施对抗攻击。我们在三个关键标准上评估我们的方法：有效性、隐蔽性和鲁棒性。在数字环境中，我们在 ImageNet 的一个子集上实现了 97.60% 的攻击成功率；而在物理环境中，我们在室内测试中达到 100% 的攻击成功率，在室外测试中达到 82.14%。将 AdvCP 生成的对抗样本与基线样本进行比较，以证明我们方法的隐蔽性。在攻击先进 DNN 时，实验结果表明我们的方法在所有情况下均能实现超过 85% 的攻击成功率，验证了 AdvCP 的鲁棒性。最后，我们考量了 AdvCP 对未来基于视觉的系统与应用构成的潜在威胁，并提出了一些关于基于光的物理攻击的思路。
引用
@article{arxiv.2209.09652,
title = {Adversarial Color Projection: A Projector-based Physical Attack to DNNs},
author = {Chengyin Hu and Weiwen Shi and Ling Tian},
journal= {arXiv preprint arXiv:2209.09652},
year = {2023}
}
备注
arXiv admin note: substantial text overlap with arXiv:2209.02430