脏路攻击：基于深度学习的自动车道居中系统在物理世界攻击下的安全性
密码学与安全
2021-06-15 v2 计算机视觉与模式识别
机器学习
摘要
自动车道居中（ALC）系统如今便捷且被广泛部署，但同时也高度关乎安全与安保。本工作中，我们首次系统性地研究最先进的基于深度学习的 ALC 系统在其设计运行域中遭受物理世界对抗攻击时的安全性。我们以安全攸关的攻击目标以及一种新颖且领域特定的攻击向量——脏路补丁——来形式化该问题。为系统性地生成攻击，我们采用基于优化的方法，并克服了领域特定的设计挑战，例如由攻击影响的车辆控制引起的相机帧间依赖，以及车道检测模型缺乏目标函数设计。我们在使用来自真实世界驾驶轨迹的 80 个场景的生产级 ALC 上评估了攻击。结果显示，我们的攻击极为有效，成功率超过 97.5%，平均成功时间小于 0.903 秒，显著低于驾驶员平均反应时间。该攻击还被发现（1）对光照条件和视角等各种真实世界因素具有鲁棒性，（2）可泛化至不同模型设计，以及（3）从驾驶员视角具有隐蔽性。为理解安全影响，我们使用软件在环仿真和真实车辆中的攻击轨迹注入进行实验。结果显示，我们的攻击可在不同场景中导致 100% 碰撞率，包括在与自动紧急制动等常见安全功能测试时。我们还评估并讨论了防御措施。
引用
@article{arxiv.2009.06701,
title = {Dirty Road Can Attack: Security of Deep Learning based Automated Lane Centering under Physical-World Attack},
author = {Takami Sato and Junjie Shen and Ningfei Wang and Yunhan Jack Jia and Xue Lin and Qi Alfred Chen},
journal= {arXiv preprint arXiv:2009.06701},
year = {2021}
}
备注
Accepted to Usenix Security '21