基于神经网络的控制器安全验证：一种集合不变性方法
系统与控制
2023-12-20 v2 系统与控制
摘要
本文提出了一种新方法，以确保由基于神经网络 (NN) 的状态反馈控制的连续时间线性动力系统的的安全性。我们的方法利用了连续分段仿射 (PWA) 激活函数（例如 ReLU），这使得 NN 成为一个 PWA 连续函数。通过计算后者的仿射区域并应用 Nagumo 定理，边界点的子集可以有效地验证潜在非凸集的不变性。因此，我们提出了一种将状态空间划分为仿射区域的算法。我们彻底分析了该方法的扩展性，并进行了广泛的测试以验证其有效性。
引用
@article{arxiv.2312.11352,
title = {Safety verification of Neural-Network-based controllers: a set invariance approach},
author = {Louis Jouret and Adnane Saoud and Sorin Olaru},
journal= {arXiv preprint arXiv:2312.11352},
year = {2023}
}
备注
Published in: IEEE Control Systems Letters ( Early Access ) Electronic ISSN: 2475-1456