SimGAN:基于对抗强化学习的混合仿真器辨识以实现域自适应
机器人学
2021-06-01 v2
摘要
随着基于学习的方法在机器人控制器自动化设计方面取得进展,将学到的策略迁移到具有不同动力学的新域(例如仿真到现实迁移)仍需要人工干预。本文提出 SimGAN,一个通过辨识混合物理仿真器以匹配仿真轨迹与目标域轨迹来解决域自适应的框架,利用学到的判别性损失来克服人工设计损失的局限性。我们的混合仿真器结合神经网络与传统物理仿真,以平衡表达力与泛化性,并缓解了系统辨识(System ID)中仔细选取参数集的需求。一旦通过对抗强化学习辨识出混合仿真器,即可用于优化目标域的策略,而无需交替进行数据收集与策略优化。我们表明,在六项机器人运动域自适应任务上,我们的方法优于多个强基线。
引用
@article{arxiv.2101.06005,
title = {SimGAN: Hybrid Simulator Identification for Domain Adaptation via Adversarial Reinforcement Learning},
author = {Yifeng Jiang and Tingnan Zhang and Daniel Ho and Yunfei Bai and C. Karen Liu and Sergey Levine and Jie Tan},
journal= {arXiv preprint arXiv:2101.06005},
year = {2021}
}
备注
ICRA 2021, Code Available at: https://github.com/jyf588/SimGAN ; Accompanying Video: https://youtu.be/McKOGllO7nc