线性二次高斯(LQG)设置中的自适应控制与后悔最小化
机器学习
2020-06-25 v2 最优化与控制
机器学习
摘要
我们研究部分可观测线性二次高斯控制系统中的自适应控制问题,其中模型动力学事先未知。我们提出 LqgOpt,一种基于面对不确定性时乐观原则的新颖强化学习算法,以有效最小化总体控制代价。我们采用系统动力学的预测器状态演化表示,并部署最近提出的闭环系统辨识方法、估计和置信界构建。LqgOpt 高效探索系统动力学,将模型参数估计至其置信区间,并部署最乐观模型的控制器以进行进一步探索和利用。我们为 LqgOpt 提供稳定性保证,并证明线性二次高斯(LQG)系统自适应控制的后悔上界为 ,其中 是问题的时间范围。
引用
@article{arxiv.2003.05999,
title = {Adaptive Control and Regret Minimization in Linear Quadratic Gaussian (LQG) Setting},
author = {Sahin Lale and Kamyar Azizzadenesheli and Babak Hassibi and Anima Anandkumar},
journal= {arXiv preprint arXiv:2003.05999},
year = {2020}
}