加权平均精度：自动驾驶视觉感知中的对抗样本检测
计算机视觉与模式识别
2020-05-05 v2 图像与视频处理
摘要
近期工作表明，神经网络对精心构造的对抗样本（AE）十分脆弱。通过对输入图像添加微小扰动，对抗样本能够使受害模型预测出错误输出。对抗机器学习领域的若干研究已开始关注自动驾驶中对抗样本的检测。然而，现有研究要么对检测输出采用初步假设，要么忽略感知流水线中的跟踪系统。在本文中，我们首先提出一种面向实际自动驾驶目标检测输出的新型距离度量。随后，我们通过提供一种考虑跟踪系统影响的时序检测算法，弥合当前对抗样本检测研究与真实世界自动驾驶系统之间的鸿沟。我们在Berkeley Deep Drive（BDD）和CityScapes数据集上进行评估，结果表明我们的方法通过提升17.76%的性能准确率，优于现有的基于单帧mAP的对抗样本检测。
引用
@article{arxiv.2002.03751,
title = {Weighted Average Precision: Adversarial Example Detection in the Visual Perception of Autonomous Vehicles},
author = {Yilan Li and Senem Velipasalar},
journal= {arXiv preprint arXiv:2002.03751},
year = {2020}
}