针对自动驾驶安全性的机器学习驱动恶意软件
密码学与安全
2020-06-16 v2 计算机视觉与模式识别
机器学习
机器人学
摘要
确保自动驾驶车辆（AVs）的安全对其大规模部署与公众接受至关重要。然而，违反安全约束并引发事故的安全攻击是达成公众对AVs信任的重大阻碍，也妨碍供应商部署AVs的能力。从攻击者视角看，制造导致严重安全妥协（例如事故）的安全危害颇具吸引力。本文中，我们引入一种攻击模型、一种以智能恶意软件形式部署攻击的方法，以及对其在生产级自动驾驶软件上影响的实验评估。我们发现，确定发起攻击的时间区间对于高成功率地引发安全危害（如碰撞）具有关键重要性。例如，该智能恶意软件引发的强制紧急刹车比随机攻击多33倍，且在52.6%的驾驶仿真中发生事故。
引用
@article{arxiv.2004.13004,
title = {ML-driven Malware that Targets AV Safety},
author = {Saurabh Jha and Shengkun Cui and Subho S. Banerjee and Timothy Tsai and Zbigniew Kalbarczyk and Ravi Iyer},
journal= {arXiv preprint arXiv:2004.13004},
year = {2020}
}
备注
Accepted for DSN 2020