基于碰撞风险评估的强化学习动态避障增强方法
机器人学
2022-12-09 v1 机器学习
摘要
在自主机器人领域,强化学习(RL)正日益被用于解决移动机器人、自主船舶和无人机的动态避障任务。训练这些智能体的常见做法是使用智能体与障碍物随机初始化的训练环境。此类方法可能面临训练中高风险场景覆盖率低的问题,导致最终的避障性能受损。本文提出一种通用训练环境,通过采用短训练回合并利用两项指标评估难度——障碍物数量与碰撞风险指标——从而控制避障任务的难度。我们发现,将训练向更高任务难度偏移可大幅提升最终性能。基于智能体与障碍物随机初始化及较长训练回合的传统训练环境的基线智能体,性能显著更弱。为证明所提方法的通用性,我们设计了两个真实用例:面临逼近障碍物威胁的移动机器人与海上船舶。在这两项应用中,先前结果均得到确认,这凸显了所提方法脱离特定应用背景且独立于智能体动力学的通用可用性。我们进一步向传感器信号加入高斯噪声,性能仅出现微小退化,从而表明训练后智能体具有稳健的鲁棒性。
引用
@article{arxiv.2212.04123,
title = {Enhanced method for reinforcement learning based dynamic obstacle avoidance by assessment of collision risk},
author = {Fabian Hart and Ostap Okhrin},
journal= {arXiv preprint arXiv:2212.04123},
year = {2022}
}