基于物理的灵巧操控：利用估计手部姿态与残差强化学习
计算机视觉与模式识别
2020-08-10 v1 机器人学
摘要
仅使用深度传感器与最先进的 3D 手部姿态估计器(HPE)，用裸手在虚拟环境中灵巧操控物体颇具挑战。尽管虚拟环境受物理规则支配（如物体重量与表面摩擦），但力反馈的缺失使任务困难，因为即便 HPE 在指尖或接触点上的轻微不准确也可能导致交互失败。已有方法仅在手指关节穿透虚拟物体时，沿手指闭合方向生成接触力。虽对简单抓取场景有用，却无法应用于手中操控等灵巧操作。现有的强化学习(RL)与模仿学习(IL)方法训练的智能体利用任务特定奖励学习技能，而不考虑任何在线用户输入。本工作中，我们提出学习一个将含噪输入手部姿态映射至目标虚拟姿态的模型，从而在物理模拟器上引入完成任务所需的接触。该智能体采用无模型混合 RL+IL 方法在残差设定下训练。我们引入了 3D 手部姿态估计奖励，当物理引导的修正目标姿态被重映射回输入空间时，可提升 HPE 精度。由于模型通过施加微小却关键的接触关节位移来修正 HPE 误差，这有助于使生成的动作在视觉上接近用户输入。因不存在执行成功虚拟交互的 HPE 序列，我们提出了一种数据生成方案以训练和评估系统。我们在两个利用手部姿态估计进行灵巧操控的应用中测试了框架：VR 中的手-物交互与野外的手-物运动重建。
引用
@article{arxiv.2008.03285,
title = {Physics-Based Dexterous Manipulations with Estimated Hand Poses and Residual Reinforcement Learning},
author = {Guillermo Garcia-Hernando and Edward Johns and Tae-Kyun Kim},
journal= {arXiv preprint arXiv:2008.03285},
year = {2020}
}
备注
To appear in IROS2020