闭眼安全核：不可观测情形下自主系统的安全性保障

本文提出一种以可证明安全的方式处理动态系统潜在不可观测性的框架。受自动驾驶车辆所采用的数据驱动感知系统脆弱性的启发，我们形式化了在自主运行过程中传感模态失效或被发现不可信时所出现的问题。我们将此问题建模为受控动态系统与被观测丢失的外部系统因子之间所进行的微分博弈。该博弈是一个零和 Stackelberg 博弈，其中受控系统（领导者）试图寻找一条最大化代表系统安全性函数的轨迹，而未被观测的因子（跟随者）试图最小化同一函数。该博弈中受控系统的获胜初始构型集合，表示即便该外部因子的可观测性丢失，仍能维持其安全性的所有状态集合。此集合即我们所称的“闭眼安全核”（Eyes-Closed Safety Kernel）。在实际使用中，仅当外部系统可观测性丢失或系统因其他非安全导向控制方案偏离闭眼安全核时，才需要执行由受控系统获胜策略所定义的策略。我们提出了一种离线求解该博弈的方法，使得所得获胜策略可在需要时用于计算高效、可证明安全的在线控制。所提出的求解方法基于用两个 Hamilton-Jacobi 偏微分方程的解来表征该博弈。我们通过一个现实示例说明了框架的适用性：一辆自动驾驶汽车必须在可能丢失可观测性的情况下避开动态障碍物。