对抗性霓虹光束：一种基于光的DNN物理攻击
计算机视觉与模式识别
2023-05-24 v3 密码学与安全
机器学习
摘要
在物理世界中，深度神经网络（DNNs）受光照与阴影影响，这可能显著影响其性能。虽然大多数物理攻击中使用贴纸作为扰动，但其扰动常易被察觉。为此，一些研究探索了使用基于光的扰动（如激光或投影仪）来生成更微妙的、人为而非自然的扰动。在本研究中，我们引入一种称为对抗性霓虹光束（AdvNB）的新型基于光的攻击，它利用常见霓虹光束制造自然的黑盒物理攻击。我们的方法从三个关键标准评估：有效性、隐蔽性和鲁棒性。在模拟环境中获得的定量结果证明了所提方法的有效性，而在物理场景中，我们实现了81.82%的攻击成功率，超越了基线。通过使用常见霓虹光束作为扰动，我们增强了所提攻击的隐蔽性，使物理样本显得更自然。此外，我们通过在所有情况下以超过75%的成功率成功攻击先进的DNNs，验证了方法的鲁棒性。我们还讨论了针对AdvNB攻击的防御策略，并提出了其他基于光的物理攻击。
引用
@article{arxiv.2204.00853,
title = {Adversarial Neon Beam: A Light-based Physical Attack to DNNs},
author = {Chengyin Hu and Weiwen Shi and Wen Li},
journal= {arXiv preprint arXiv:2204.00853},
year = {2023}
}