过于谨慎而不敢行驶：物理世界攻击下自动驾驶规划中语义拒绝服务漏洞的系统性发现
密码学与安全
2022-01-13 v1
摘要
在高级自动驾驶（AD）系统中，行为规划负责制定巡航、停车等高层驾驶决策，因而具有极高的安全关键性。本文首次对专门针对过度保守的 AD 行为规划行为的语义安全漏洞进行系统性研究，即那些会导致任务执行失败或性能显著下降的漏洞，这类漏洞对于机器人出租车/配送等 AD 服务而言可能至关重要。我们称之为语义拒绝服务（DoS）漏洞，鉴于为避免安全事件而倾向于保守的设计，我们预期这类漏洞会在实际 AD 系统中最为普遍地暴露。为获得较高的实用性与真实感，我们假设攻击者只能向驾驶环境中引入看似良性的外部物理物体，例如路边丢弃的纸箱。为系统性地发现此类漏洞，我们设计了 PlanFuzz，一种解决各类特定问题的设计挑战的新型动态测试方法。具体而言，我们提出并将规划不变量识别为新型测试预言，并设计新的输入生成以系统性地强制满足攻击者引入物理物体的问题特定约束。我们还设计了一种新型行为规划漏洞距离度量以有效引导发现过程。我们在来自实际开源 AD 系统的 3 个规划实现上评估 PlanFuzz，发现它能在无假阳性情况下有效发现 9 个先前未知的语义 DoS 漏洞。我们发现所有新设计都是必要的，因为缺少任一设计通常会观察到统计显著的性能下降。我们进一步利用仿真与真实车辆轨迹进行利用案例研究。我们讨论了根本原因与潜在修复方案。
引用
@article{arxiv.2201.04610,
title = {Too Afraid to Drive: Systematic Discovery of Semantic DoS Vulnerability in Autonomous Driving Planning under Physical-World Attacks},
author = {Ziwen Wan and Junjie Shen and Jalen Chuang and Xin Xia and Joshua Garcia and Jiaqi Ma and Qi Alfred Chen},
journal= {arXiv preprint arXiv:2201.04610},
year = {2022}
}