中文

基于对抗强化学习的无模型 $\mu$ 综合

机器学习 2022-06-09 v2 最优化与控制

摘要

受近期基于策略的强化学习(RL)在经验上取得成功的推动,已有研究趋势在考察基于策略的 RL 方法在标准控制基准问题上的表现。本文中,我们考察了基于策略的 RL 方法在一个重要鲁棒控制问题上的有效性,即 μ\mu 综合。我们建立了鲁棒对抗 RL 与 μ\mu 综合之间的联系,并针对带静态 DD 缩放的状态反馈 μ\mu 综合,开发了著名的 DKDK 迭代的一种无模型版本。在所提算法中,KK 步通过引入近期开发的双循环对抗 RL 方法作为子程序来模仿经典中心路径算法,而 DD 步基于无模型有限差分近似。我们还给出了广泛的数值研究以展示所提无模型算法的实用性。我们的研究为对抗 RL 与鲁棒控制之间的联系提供了新的见解。

关键词

引用

@article{arxiv.2111.15537,
  title  = {Model-Free $\mu$ Synthesis via Adversarial Reinforcement Learning},
  author = {Darioush Keivan and Aaron Havens and Peter Seiler and Geir Dullerud and Bin Hu},
  journal= {arXiv preprint arXiv:2111.15537},
  year   = {2022}
}

备注

Accepted to ACC 2022