物理对抗攻击遇上计算机视觉：十年综述

尽管深度神经网络（DNNs）在计算机视觉中取得了令人瞩目的成就，其面对对抗攻击的脆弱性仍是一大关键隐患。大量研究表明，在输入图像中注入精心设计的扰动会导致 DNNs 性能灾难性下降。这一令人困惑的现象不仅存在于数字空间，也存在于物理世界。因此，评估基于 DNNs 的系统的安全性以确保其在现实场景中的安全部署（尤其在安全敏感应用中）变得势在必行。为深化对该主题的理解，本文呈现对物理对抗攻击的全面概览。首先，我们提炼出发起物理对抗攻击的四个通用步骤。在此基础上，我们揭示了携带对抗扰动的伪影在物理世界中的普遍作用，这些伪影影响每一步。为指代它们，我们引入新术语：对抗介质。随后，我们以对抗介质为首次尝试，系统性评估物理对抗攻击的性能。我们提出的评价指标 hiPAA 包含六个维度：有效性、隐蔽性、鲁棒性、实用性、美观性与经济性。我们还提供了跨任务类别的对比结果，以及对未来研究方向的洞见与建议。