深度传感器融合模型的对抗鲁棒性
计算机视觉与模式识别
2022-04-12 v3
摘要
我们通过实验研究自动驾驶中用于 2D 目标检测的深度相机-激光雷达融合架构的鲁棒性。首先，我们发现融合模型通常比单传感器深度神经网络更准确，且对单源攻击更鲁棒。此外，我们展示在无对抗训练时，早期融合比晚期融合更鲁棒，而对抗训练后二者表现相似。然而，我们注意到深度融合的单通道对抗训练常甚至损害鲁棒性。而且，我们观察到跨通道外部性，其中单通道对抗训练降低了对另一通道攻击的鲁棒性。另外，我们观察到对抗训练中对抗模型的选择至关重要：使用限定在车辆边界框内的攻击在对抗训练中更有效，且表现出较不显著的跨通道外部性。最后，我们发现联合通道对抗训练有助于缓解上述许多问题，但并未显著提升对抗鲁棒性。
引用
@article{arxiv.2006.13192,
title = {Adversarial Robustness of Deep Sensor Fusion Models},
author = {Shaojie Wang and Tong Wu and Ayan Chakrabarti and Yevgeniy Vorobeychik},
journal= {arXiv preprint arXiv:2006.13192},
year = {2022}
}