基于约束zonotope的神经网络反馈系统安全验证

人工神经网络近期被用于许多反馈控制系统，并给此类系统的安全性带来了新挑战。本文考虑使用基于约束 zonotope 的方法，对以给定前馈神经网络作为反馈控制器的动态系统进行安全验证问题。提出了一种新颖的基于集合的方法，用于计算具有线性模型的神经网络反馈系统的精确与过近似可达集，并给出了基于线性规划的充分条件，以验证此类系统轨迹能否避开以约束 zonotope 表示的不安全区域。结果也扩展至具有非线性模型的神经网络反馈系统。所提方法的计算效率与准确性通过两个数值例子得到展示，其中也提供了与最先进方法的比较。