AdvRain：攻击基于摄像头的智能视觉系统的对抗性雨滴
计算机视觉与模式识别
2023-10-06 v2 密码学与安全
摘要
基于视觉的感知模块正日益部署于诸多应用中，尤其是自动驾驶车辆与智能机器人。这些模块被用于获取周围环境信息并识别障碍物。因此，准确的检测与分类对于随时做出恰当决策并采取适当且安全的行动至关重要。当前研究已表明，被称为物理对抗攻击的“打印式对抗攻击”可成功误导如目标检测器与图像分类器等感知模型。然而，此类物理攻击大多基于显眼且引人注目的生成扰动模式，使其可被肉眼或测试驾驶中识别/检测。本文中，我们提出一种基于摄像头的不显眼对抗攻击（\textbf{AdvRain}），能够误导基于摄像头的感知系统对同属一类的所有物体。不同于需要访问底层计算硬件或图像内存的基于掩码的伪天气攻击，我们的攻击基于模拟自然天气条件（即雨滴）的效果，可打印于半透明贴纸上并外置于摄像头镜头前。为此，我们提供基于随机搜索的迭代过程，旨在识别关键位置以确保所执行的变换对目标分类器为对抗性的。我们的变换基于对捕获图像中对应雨滴覆盖区域的预定义部分进行模糊。仅使用 个雨滴，我们在 ImageNet 的 VGG19 与 Caltech-101 的 Resnet34 上分别使模型平均准确率下降超过 与 。
引用
@article{arxiv.2303.01338,
title = {AdvRain: Adversarial Raindrops to Attack Camera-based Smart Vision Systems},
author = {Amira Guesmi and Muhammad Abdullah Hanif and Muhammad Shafique},
journal= {arXiv preprint arXiv:2303.01338},
year = {2023}
}