中文

PFPN:基于粒子滤波策略网络对物理模拟角色进行连续控制

机器学习 2021-10-06 v4 图形学 机器学习

摘要

使用强化学习的数据驱动物理角色控制方法已成功应用于生成高质量运动。然而,现有方法通常依赖高斯分布来表示动作策略,在求解高度关节化角色的高维连续控制问题时,可能过早地陷入次优动作。本文为提高基于物理的角色控制器的学习性能,提出了一种以基于粒子的动作策略替代高斯策略的框架。我们利用粒子滤波动态探索并离散化动作空间,并跟踪表示为混合分布的后验策略。所得策略可替代作为角色控制问题主流的单峰高斯策略,且无需改变用于策略优化的强化学习算法的底层模型架构。我们在多种动作捕捉模仿任务上展示了方法的适用性。与使用高斯分布的对应实现相比,采用我们基于粒子策略的基线取得了更好的模仿性能和收敛速度,并且在角色控制过程中对外部扰动更具鲁棒性。相关代码见:https://motion-lab.github.io/PFPN。

关键词

引用

@article{arxiv.2003.06959,
  title  = {PFPN: Continuous Control of Physically Simulated Characters using Particle Filtering Policy Network},
  author = {Pei Xu and Ioannis Karamouzas},
  journal= {arXiv preprint arXiv:2003.06959},
  year   = {2021}
}

备注

Motion, Interaction and Games (MIG '21)