面向部分观测非线性系统的收缩与 Lipschitz 闭环学习(扩展版)
系统与控制
2023-11-15 v2 机器学习
系统与控制
最优化与控制
摘要
本文提出了一种用于非线性部分观测动力学系统基于学习的控制的策略参数化方法。该参数化基于非线性版本的 Youla 参数化与近期提出的 Recurrent Equilibrium Network (REN) 模型类。我们证明,所得的 Youla-REN 参数化自动满足闭环系统的稳定性(收缩)和用户可调的鲁棒性(Lipschitz)条件。这意味着它可用于安全的基于学习的控制,而无需额外的约束或投影来强制执行稳定性或鲁棒性。我们在两个强化学习任务的仿真中测试了这一新策略类:1) 磁悬浮,和 2) 旋臂摆的倒立控制。我们发现,Youla-REN 的表现与现有的基于学习和最优控制方法相似,同时确保了稳定性并展现出对对抗性扰动的更强鲁棒性。
引用
@article{arxiv.2304.06193,
title = {Learning Over Contracting and Lipschitz Closed-Loops for Partially-Observed Nonlinear Systems (Extended Version)},
author = {Nicholas H. Barbara and Ruigang Wang and Ian R. Manchester},
journal= {arXiv preprint arXiv:2304.06193},
year = {2023}
}