面向车道检测对抗攻击的模型无关防御
计算机视觉与模式识别
2021-03-02 v1
摘要
神经网络对对抗攻击的易感性引发了车道检测工作的严重安全担忧，该领域已广泛应用此类模型。近期关于对抗性道路补丁的研究已成功诱导出任意形态的车道线感知，为恶意控制车辆行为提供了途径。在本文中，我们提出一种模块化车道验证系统，可在自动驾驶系统被误导前捕获此类威胁，同时保持对特定车道检测模型的无关性。我们的实验表明，使用简单卷积神经网络 (CNN) 实现该系统可防御车道检测模型上广泛的攻击。在推理时间增加 10% 的情况下，我们能够检测 96% 的有界非自适应攻击、90% 的有界自适应攻击和 98% 的补丁攻击，同时对至少 95% 的真实车道保持准确识别，表明我们提出的验证系统能以最小开销有效缓解车道检测安全风险。
引用
@article{arxiv.2103.00663,
title = {Model-Agnostic Defense for Lane Detection against Adversarial Attack},
author = {Henry Xu and An Ju and David Wagner},
journal= {arXiv preprint arXiv:2103.00663},
year = {2021}
}
备注
6 pages, 6 figures, 3 tables. Part of AutoSec 2021 proceedings