利用不确定性量化预测自动驾驶系统中的安全失当行为

意外情况的自动实时识别在自动驾驶车辆的安全中起着至关重要的作用，尤其是在不受支持和不可预测的场景中。本文评估了来自深度学习领域的不同贝叶斯不确定性量化方法，用于在系统级基于仿真的测试期间对安全关键失当行为进行预期测试。具体而言，我们在车辆执行时计算不确定性分数，遵循高不确定性分数表明存在不受支持的运行条件这一直觉，这可用于区分安全驾驶行为和诱发失效的驾驶行为。在我们的研究中，我们评估了两种贝叶斯不确定性量化方法，即 MC-Dropout 和 Deep Ensembles，在避免失当行为方面的有效性和计算开销。总体而言，对于来自 Udacity 模拟器的三个基准测试（包含通过变异测试引入的分布外和不安全条件），这两种方法都成功检测到了大量越界事件，并提前几秒发出预警，在有效性和效率方面优于两种基于自编码器和注意力图的 SOTA 失当行为预测方法。值得注意的是，Deep Ensembles 检测到了大多数失当行为而没有任何误报，即使在使用相对较少的模型数量时也是如此，使其在计算上可行于实时检测。我们的研究结果表明，结合不确定性量化方法是构建基于深度神经网络的自动驾驶车辆故障安全机制的一种可行途径。