中文

McARL:面向可通用四足动物 locomotion 的形态-控制感知强化学习

机器人学 2025-05-27 v1

摘要

我们提出了形态-控制感知强化学习(Morphology-Control-Aware Reinforcement Learning, McARL),一种新方法,用于解决超参数调优和迁移损失的挑战,实现跨机器人形态的可通用 locomotion。我们通过在actor和critic网络中引入随机化的形态向量( sampled from 定义的形态范围),实现形态条件化策略。这使策略能够学习能泛化到具有相似特征的机器人参数。我们展示了,使用McARL在Unitree Go1机器人上训练的单个策略,可被迁移到不同的形态(例如Unitree Go2机器人),实现最高3.5 m/s的零样迁移速度,无需重新训练或微调。此外,它在训练Go1机器人上达到6.0 m/s,并能泛化到其他形态,如A1和Mini Cheetah。我们还分析了形态距离对迁移性能的影响,凸显了McARL相对于先前方法的优势。在Go2、Mini Cheetah和A1上,McARL的迁移性能比PPO变体高出44%-150%。

关键词

引用

@article{arxiv.2505.18418,
  title  = {McARL:Morphology-Control-Aware Reinforcement Learning for Generalizable Quadrupedal Locomotion},
  author = {Prakhar Mishra and Amir Hossain Raj and Xuesu Xiao and Dinesh Manocha},
  journal= {arXiv preprint arXiv:2505.18418},
  year   = {2025}
}