基于端到端不确定性的对抗攻击缓解方法用于自动车道居中
机器人学
2021-03-02 v1 密码学与安全
机器学习
系统与控制
系统与控制
摘要
在高级驾驶辅助系统（ADAS）与自动驾驶汽车的发展中，基于深度神经网络（DNNs）的机器学习技术已广泛用于车辆感知。这些技术在平均感知精度上较传统方法有明显提升，但已被证明易受对抗攻击影响，即输入中的微小扰动可能导致感知结果的显著误差并引发系统失效。大多数解决此类对抗攻击的已有工作仅关注感知与感知模块。在本工作中，我们提出一种端到端方法，解决对抗攻击在感知、规划与控制模块中的影响。具体而言，我们选取一个目标 ADAS 应用——OpenPilot 中的自动车道居中系统，量化对抗攻击下的感知不确定性，并基于该不确定性分析相应地设计鲁棒规划与控制模块。我们使用公开数据集与生产级自动驾驶仿真器评估所提方法。实验结果表明，我们的方法能有效缓解对抗攻击的影响，并相较原始 OpenPilot 取得 55% 至 90% 的改进。
引用
@article{arxiv.2103.00345,
title = {End-to-end Uncertainty-based Mitigation of Adversarial Attacks to Automated Lane Centering},
author = {Ruochen Jiao and Hengyi Liang and Takami Sato and Junjie Shen and Qi Alfred Chen and Qi Zhu},
journal= {arXiv preprint arXiv:2103.00345},
year = {2021}
}
备注
8 pages for conference