你为什么不擦擦眼镜？基于动态光学扰动的感知攻击

模拟人类感知的基于摄像头的自主系统正日益集成到安全关键平台中。因此，已形成了大量探索针对底层机器学习模型的对抗攻击的文献。对攻击者而言，将对抗攻击适配到物理世界是理想的，因为这免去了破坏数字系统的需要。然而，鉴于感知流水线中的环境噪声以及自主系统的动态性，物理世界带来了与对抗操纵的“可存续性”相关的挑战。在本文中，我们采取传感器优先的方法。我们提出 EvilEye，一种利用透明显示屏生成动态物理对抗样本的中间人感知攻击。EvilEye 利用摄像头的光学特性在多种光照条件下诱导误分类。为生成动态扰动，我们通过建模经光学流水线捕获图像的变换函数，将数字攻击投影到物理域的形式化方法提出。我们大量的实验表明，相对于现有的物理扰动框架，EvilEye 生成的对抗扰动在各种环境光照条件下都更加鲁棒，在绕过最先进的物理对抗检测框架的同时实现了高攻击成功率（ASR）。我们证明 EvilEye 的动态特性使攻击者能够跨多种物体适配对抗样本，与最先进的物理世界攻击框架相比具有显著更高的 ASR。最后，我们讨论针对 EvilEye 攻击的缓解策略。