中文

RMBench:面向机械臂控制的深度强化学习基准测试

机器人学 2023-03-08 v3 人工智能

摘要

强化学习被应用于从高维感官输入中解决实际复杂任务。过去十年已开发出大量强化学习算法。近期进展得益于利用深度学习表征原始感官信号。一个自然产生的问题是:它们在不同的机械臂操作任务上表现如何?基准测试使用客观性能指标,为算法比较提供科学方法。本文提出RMBench,首个面向具有高维连续动作与状态空间的机械臂操作的基准。我们实现并评估了直接使用观测像素作为输入的强化学习算法。我们报告其平均性能与学习曲线,以展示其性能与训练稳定性。我们的研究结论是:所研究的算法均无法很好地处理所有任务,软Actor-Critic在平均奖励与稳定性上优于大多数算法,且结合数据增强的算法可能有助于学习策略。我们的代码公开于 https://github.com/xiangyanfei212/RMBench-2022,包含全部基准任务与研究算法。

关键词

引用

@article{arxiv.2210.11262,
  title  = {RMBench: Benchmarking Deep Reinforcement Learning for Robotic Manipulator Control},
  author = {Yanfei Xiang and Xin Wang and Shu Hu and Bin Zhu and Xiaomeng Huang and Xi Wu and Siwei Lyu},
  journal= {arXiv preprint arXiv:2210.11262},
  year   = {2023}
}

备注

8 pages, 3 figures, 2 tables; update code's link