面向多摄像头系统的物理对抗样本
计算机视觉与模式识别
2023-11-16 v1 密码学与安全
机器学习
摘要
神经网络是若干智能系统的基础，但众所周知其容易被对抗样本欺骗。近期进展使得即便在气隙场景下（自主系统通过例如摄像头观察周围环境）也能实现此类攻击。我们在研究中扩展了这些思路，并评估了多摄像头配置对此类物理对抗样本的鲁棒性。随着自动驾驶车辆日益普及，该场景变得愈发重要，因为此类车辆融合多个摄像头的信息以做出驾驶决策。我们发现多摄像头配置对既往攻击方法提供了一定鲁棒性，但同时优化多个视角时该优势会减弱。我们提出一种称为 Transcender-MC 的新攻击方法，在训练过程中融入在线 3D 渲染与透视投影。此外，我们论证某些数据增强技术可进一步促进成功对抗样本的生成。Transcender-MC 在成功攻击多摄像头配置方面比 SOTA 方法有效 11%。我们的发现为多角度摄像头设置下目标检测的鲁棒性提供了有价值的见解，并凸显了开发相应防御机制的必要性。
引用
@article{arxiv.2311.08539,
title = {Physical Adversarial Examples for Multi-Camera Systems},
author = {Ana Răduţoiu and Jan-Philipp Schulze and Philip Sperl and Konstantin Böttinger},
journal= {arXiv preprint arXiv:2311.08539},
year = {2023}
}