ReachNN：神经网络控制系统的可达性分析
系统与控制
2019-06-26 v1 机器学习
系统与控制
摘要
将神经网络用作动力系统的控制器已展现出巨大前景。然而，验证此类含神经网络控制器的控制系统的安全性既关键又具挑战。以往验证神经网络控制系统的方法局限于少数特定激活函数。本工作中，我们提出一种基于 Bernstein 多项式的新可达性分析方法，可验证具有更一般形式激活函数的神经网络控制系统，即只要其确保神经网络为 Lipschitz 连续。具体而言，我们考虑用 Bernstein 多项式对前馈神经网络在输入的小子集上作抽象。为量化抽象引入的误差，我们基于 Bernstein 多项式理论给出理论误差界估计，以及基于采样的更实用误差界估计，并遵循基于前向可达性分析的紧 Lipschitz 常数估计方法。相较以往方法，我们的方法适用于更广的神经网络集合，包括含多种激活函数类型的异构神经网络。在多个基准上的实验结果表明了我们所提方法的有效性。
引用
@article{arxiv.1906.10654,
title = {ReachNN: Reachability Analysis of Neural-Network Controlled Systems},
author = {Chao Huang and Jiameng Fan and Wenchao Li and Xin Chen and Qi Zhu},
journal= {arXiv preprint arXiv:1906.10654},
year = {2019}
}