基于 Actor-Critic 强化学习的四旋翼鲁棒底层无关控制器设计
机器人学
2022-10-07 v1 机器学习
摘要
目的:使用四旋翼的真实应用会引入多种扰动与时变特性,对飞行控制器构成挑战。我们观察到,当四旋翼被赋予拾取与投放载荷的任务时,文献中的传统 PID 与基于强化学习(RL)的控制器在飞行器因与该外部物体交互而改变其动力学后,难以维持飞行。方法:本工作中,我们在基于 Soft Actor-Critic 的底层航点导引控制器的训练阶段引入域随机化。所得控制器在提出的载荷拾取与投放任务上进行了评估,并附加了模拟飞行器真实运行的扰动。结果与结论:我们表明,通过在训练中对四旋翼动力学引入一定程度的不确定性,可获得一个能够使用更大参数变化的四旋翼来完成所提任务的控制器。此外,在该任务中,基于 RL 的控制器优于增益经过优化的传统位置 PID 控制器,同时对不同的仿真参数保持无关。
引用
@article{arxiv.2210.02964,
title = {Designing a Robust Low-Level Agnostic Controller for a Quadrotor with Actor-Critic Reinforcement Learning},
author = {Guilherme Siqueira Eduardo and Wouter Caarls},
journal= {arXiv preprint arXiv:2210.02964},
year = {2022}
}