学习型信息物理系统中的实时分布外检测

信息物理系统（CPS）通过使用能处理现实世界不确定性与可变性的机器学习组件而大为受益。然而，诸如深度神经网络之类的典型组件引入可能影响系统安全的新类型危险。系统行为依赖于仅在运行时可用的数据，且可能与训练所用数据不同。分布外数据可能导致大误差并危及安全。本文考虑在 CPS 控制系统中高效检测分布外数据的问题。检测必须稳健并将误报数量限制在低位，同时具备实时监控的计算效率。所提方法利用归纳保形预测与异常检测来开发一种具有良好校准误报率的方法。我们使用变分自编码器与深度支持向量数据描述来学习模型，可高效计算新输入相对于训练集的不一致性，并实现分布外高维输入的实时检测。我们利用高级紧急刹车系统与在开源自动驾驶汽车模拟器中实现的端到端自驾驶控制器演示了该方法。仿真结果显示误报与检测延迟极少，而执行时间与原始机器学习组件的执行时间相当。