Verisig：使用混合系统验证含神经网络控制器的混合系统安全性性质
系统与控制
2018-11-06 v1
摘要
本文提出 Verisig，一种使用神经网络作为控制器的闭环系统安全性性质验证的混合系统方法。尽管存在验证神经网络本身输入/输出性质的技术，但这些方法不能用于验证闭环系统的性质（因为它们处理的是分段线性约束，无法刻画非线性被控对象动力学）。为克服这一挑战，我们关注基于 sigmoid 的网络，并利用 sigmoid 是二次微分方程的解这一事实，从而将神经网络转化为等价的混合系统。通过将网络的混合系统与被控对象的混合系统组合，我们将问题转化为混合系统验证问题，可使用最先进的可达性工具求解。我们证明，对于具有一个隐藏层的网络可达性是可判定的，而对于一般网络，若 Schanuel 猜想成立则可判定。我们在两个案例研究中评估了 Verisig 的适用性和可扩展性，一个来自强化学习，另一个使用神经网络来近似模型预测控制器。
引用
@article{arxiv.1811.01828,
title = {Verisig: verifying safety properties of hybrid systems with neural network controllers},
author = {Radoslav Ivanov and James Weimer and Rajeev Alur and George J. Pappas and Insup Lee},
journal= {arXiv preprint arXiv:1811.01828},
year = {2018}
}