安全修复：一种修复不安全两级格神经网络控制器的凸优化方法
机器学习
2021-04-08 v1 系统与控制
系统与控制
最优化与控制
摘要
在本文中，我们考虑修复一个数据训练的修正线性单元（ReLU）神经网络（NN）控制器的问题，该控制器用于离散时间、输入仿射系统。即我们假设这样的NN控制器已可用，并寻求在一个已知的“反例”状态上修复不安全的闭环行为，同时在另一个经过验证的状态集合上保持安全的闭环行为。为此，我们进一步假设NN控制器具有两级格（TLL）架构，并给出一种能够系统性且高效地修复此类网络的算法。得益于这一架构选择，我们的方法利用TLL架构独特的语义将修复问题划分为两个显著解耦的子问题，其中一个关注修复不安全的反例——因而本质上是局部范围的——另一个确保修复在网络的输出中实现——因而本质上是全局范围的。然后我们证明，求解这两个子问题的一组充分条件可表述为凸可行性问题，这使得我们能够将TLL修复问题表述为两个独立但显著解耦的凸优化问题。最后，我们在一个四轮小车的简单动力学模型的TLL控制器上评估了我们的算法。
引用
@article{arxiv.2104.02788,
title = {Safe-by-Repair: A Convex Optimization Approach for Repairing Unsafe Two-Level Lattice Neural Network Controllers},
author = {Ulices Santa Cruz and James Ferlez and Yasser Shoukry},
journal= {arXiv preprint arXiv:2104.02788},
year = {2021}
}