中文

基于自适应Actor-Critic的无漂移不确定非线性系统最优调节

系统与控制 2024-06-14 v1 机器人学 系统与控制

摘要

在本文中,针对无漂移非线性系统,开发了一种连续时间的自适应actor-critic强化学习(RL)控制器。此类系统的实际例子包括基于图像的视觉伺服(IBVS)和轮式移动机器人(WMR),其系统动力学在控制效能矩阵中包含参数不确定性,且无漂移项。输入项中的不确定性对使用现有方法开发连续时间RL控制器构成了挑战。在本文中,提出了一种基于actor-critic或同步策略迭代(PI)的RL控制器,并采用基于并发学习(CL)的参数更新律来估计控制效能矩阵的未知参数。通过以接近最优的控制努力将当前状态调节到期望状态,实现了无限时域值函数最小化的目标。所提出的控制器保证了闭环稳定性,仿真结果通过IBVS和WMR实例验证了所提出的理论。

关键词

引用

@article{arxiv.2406.09097,
  title  = {Adaptive Actor-Critic Based Optimal Regulation for Drift-Free Uncertain Nonlinear Systems},
  author = {Ashwin P. Dani and Shubhendu Bhasin},
  journal= {arXiv preprint arXiv:2406.09097},
  year   = {2024}
}