神经反馈回路后向可达性的混合划分策略

随着神经网络越来越多地集成到我们赖以出行的交通、医疗和安全系统中，开发分析其行为的方法以确保其在这些场景中使用的安全性变得愈发重要。本文所用方法旨在通过后向可达性分析，为带有神经网络控制器的闭环系统（即神经反馈回路）认证安全性。具体而言，我们计算反投影（BP）集的过近似（BPOA），即导致给定目标集的状态集合，该目标集界定了状态空间中的危险区域。随后可通过将系统当前状态与 BPOA 比对来认证其安全性。尽管过近似 BP 比计算精确 BP 集快得多，但求解松弛问题会导致保守性。为克服保守性，可采用划分策略将问题拆分为一组子问题，每个子问题比未划分问题保守性更低。我们提出一种混合划分方法，同时使用目标集划分（TSP）与后可达集划分（BRSP），以克服单独使用 BRSP 时存在的估计误差下界。数值结果表明，在相同时长下，相比 BRSP 或 TSP，估计误差降低了近一个数量级。