DexterityGen：掌握前所未有的灵活度的基础控制器

教育机器人掌握灵巧操控技能（如工具使用）是一个重大的挑战。当前方法大致可分为两类：人类遥操作（用于模仿学习）和仿真到现实的强化学习。第一种方法困难在于，人类在没有触觉反馈的情况下，在不同的机体上产生安全且灵巧的运动十分困难。第二种基于RL的方法在域间差距方面困难，并在复杂任务上涉及高度特定的奖励工程。我们的关键洞察是，RL在学习低级运动原语方面有效，而人类在为复杂、长期程度的任务提供粗略运动命令方面卓然无比。因此，最佳解决方案可能是两者的结合。本文介绍DexterityGen（DexGen），其使用RL预训练大规模灵巧运动原语（如手中旋转或平移），然后利用所学习的数据集训练一个灵巧的基础控制器。在现实世界中，我们将人类遥操作作为控制器的提示，以产生高度灵巧的行为。我们在仿真和现实世界中评估了DexGen的有效性，证明其是一种通用控制器，可实现输入灵巧操控命令，并通过持有物体持续时间（跨越各种任务）显著提高稳定性（提升10-100倍）。值得注意的是，凭借DexGen我们首次演示了前所未有的灵巧技能，包括多样化的对象重新定位和灵巧工具使用（如笔、注射器和螺丝刀）。