自动驾驶系统的异常行为预测
信号处理
2019-10-11 v1
摘要
深度神经网络（DNNs）是现代自动驾驶系统的核心组件。迄今为止，DNN 在所有驾驶条件下均正确泛化仍不现实。当前的测试技术由离线方案构成，用于识别对抗样本或极端情况以改进训练阶段，而在实现基于 DNN 车辆的在线修复方面鲜有作为。本文中，我们解决估计 DNN 对意外执行上下文的置信度问题，旨在预测潜在安全关键的异常行为，例如越界事件或碰撞。我们的方法 SelfOracle 基于一种新颖的自评估预言机（self-assessment oracle）概念，其在运行时监控 DNN 置信度，以提前预测 unsupported 驾驶场景。SelfOracle 使用自编码器与基于时间序列的异常检测来重构车辆所见的驾驶场景，并确定正常/unsupported 条件的置信边界。在我们的实证评估中，使用来自 Udacity 的 DNN 模型与仿真环境，评价了 SelfOracle 不同变体在预测注入异常驾驶上下文上的有效性。结果表明，总体而言，SelfOracle 可预测 77% 的异常行为，提前量达 6 秒，几乎以 3 倍因子优于 DeepRoad 的在线输入验证方法。
引用
@article{arxiv.1910.04443,
title = {Misbehaviour Prediction for Autonomous Driving Systems},
author = {Andrea Stocco and Michael Weiss and Marco Calzana and Paolo Tonella},
journal= {arXiv preprint arXiv:1910.04443},
year = {2019}
}
备注
11 pages