对基于卡尔曼滤波的前向碰撞预警系统的序列攻击
机器人学
2020-12-17 v1 人工智能
机器学习
摘要
卡尔曼滤波（KF）被广泛用于各领域以执行序列学习或变量估计。在自动驾驶车辆背景下，KF 构成许多高级驾驶辅助系统（ADAS）的核心组件，例如前向碰撞预警（FCW）。它基于传感器测量跟踪相关交通物体的状态（距离、速度等）。KF 的跟踪输出常被送入下游逻辑以产生警报，随后由人类驾驶员在近碰撞场景中用以做出驾驶决策。本文中，我们将针对 KF 的对抗攻击作为前向碰撞预警这一更复杂的人机混合系统的一部分加以研究。我们的攻击目标是通过使 KF 输出错误的状态估计从而导致虚假或延迟警报，对人类制动决策产生负面影响。我们通过顺序操纵送入 KF 的测量值来实现此目的，并提出一种新颖的模型预测控制（MPC）方法来计算最优操纵。通过在模拟驾驶环境中进行的实验，我们表明攻击者能够在期望目标时间之前通过对测量值的有计划操纵成功改变 FCW 警报信号。这些结果表明，我们的攻击可 stealthily 误导分心的人类驾驶员并导致车辆碰撞。
引用
@article{arxiv.2012.08704,
title = {Sequential Attacks on Kalman Filter-based Forward Collision Warning Systems},
author = {Yuzhe Ma and Jon Sharp and Ruizhe Wang and Earlence Fernandes and Xiaojin Zhu},
journal= {arXiv preprint arXiv:2012.08704},
year = {2020}
}
备注
Accepted by AAAI21