随机信息物理系统的控制器沙盒化

当前的信息物理系统（CPS）需要完成复杂任务。为此，采用了高性能但未经验证的控制器（例如深度神经网络、来自第三方的黑盒控制器），这使得保持整个CPS的安全性极具挑战性。通过将这些控制器沙盒化，我们不仅能够使用它们，同时还能对被控物理系统强制执行安全属性。然而，当前可用的控制器沙盒化解决方案仅适用于确定性（即非随机）系统，可能受有界扰动影响。本文首次提出了一种新颖的解决方案，用于对在噪声环境（即随机CPS）中运行的CPS的未经验证的复杂控制器进行沙盒化。此外，我们还提供了关于其安全性的概率保证。具体地，在每个时刻观察未经验证的控制输入，并检查其是否违反了到达不安全集的最大可容忍概率。如果该概率超过给定阈值，则拒绝未经验证的控制输入，并使用最优安全控制器提供的建议输入来维持概率安全保证。通过实验对所提出的方法进行了实证说明，结果表明预期的安全概率得到了保证。