多任务感知中的对抗扰动检测
计算机视觉与模式识别
2022-09-13 v2
摘要
尽管深度神经网络（DNNs）在环境感知任务上取得了令人印象深刻的性能，它们对对抗扰动的敏感性限制了其在实际应用中的使用。本文中，我们（i）提出了一种基于复杂视觉任务（即深度估计与语义分割）多任务感知的新型对抗扰动检测方案。具体而言，对抗扰动通过输入图像提取边缘、深度输出与分割输出之间的不一致性来检测。为进一步提升该技术，我们（ii）开发了所有三种模态间的新边缘一致性损失，从而改善其初始一致性，进而支持我们的检测方案。我们通过采用多种已知攻击与图像噪声验证了检测方案的有效性。此外，我们（iii）开发了一种多任务对抗攻击，旨在同时欺骗两个任务及我们的检测方案。在 Cityscapes 与 KITTI 数据集上的实验评估表明，在 5% 假阳性率假设下，根据扰动强度不同，最多 100% 的图像被正确检测为受对抗扰动。代码见 https://github.com/ifnspaml/AdvAttackDet。https://youtu.be/KKa6gOyWmH4 的短视频提供了定性结果。
引用
@article{arxiv.2203.01177,
title = {Detecting Adversarial Perturbations in Multi-Task Perception},
author = {Marvin Klingner and Varun Ravi Kumar and Senthil Yogamani and Andreas Bär and Tim Fingscheidt},
journal= {arXiv preprint arXiv:2203.01177},
year = {2022}
}
备注
Accepted at IROS 2022