基于历史偏差建模的自动驾驶系统目标跟踪可认证安全补丁
密码学与安全
2022-07-19 v1 机器学习
摘要
自动驾驶汽车(SDC)通常实现感知流水线以检测周围障碍物并跟踪其运动轨迹，这为后续的驾驶决策过程奠定了基础。尽管SDC中障碍物检测的安全性已被深入研究，但直到最近攻击者才开始利用跟踪模块的漏洞。与仅攻击目标检测器相比，这种新攻击策略以更少的攻击代价更有效地影响驾驶决策。然而，所揭示的漏洞在端到端自动驾驶系统中是否仍然有效，以及若有效应如何缓解该威胁，目前知之甚少。本文首次对SDC中目标跟踪的安全性进行了系统性研究。通过对流行的开源自动驾驶系统百度Apollo的完整感知流水线进行全面案例研究，我们证明了基于卡尔曼滤波(KF)的主流多目标跟踪器(MOT)即使启用了多传感器融合机制也是不安全的。我们的根因分析表明，该漏洞是KF-based MOT设计所固有的，其应当对来自目标检测器的预测结果进行错误处理，但所采用的KF算法在观测与预测偏差较大时反而更容易信任观测。为解决这一设计缺陷，我们提出了一种简单而有效的基于KF的MOT安全补丁，其核心是一种自适应策略，根据观测-预测偏差的异常指数来平衡KF对观测和预测的关注度，并对广义劫持攻击模型具有可认证的有效性。在4种基于KF的现有MOT实现(包括2D和3D、学术及Apollo版本)上的大量评估验证了我们的方法的防御有效性和极小的性能开销。
引用
@article{arxiv.2207.08556,
title = {A Certifiable Security Patch for Object Tracking in Self-Driving Systems via Historical Deviation Modeling},
author = {Xudong Pan and Qifan Xiao and Mi Zhang and Min Yang},
journal= {arXiv preprint arXiv:2207.08556},
year = {2022}
}