中文

感知拼接:零样本感知编码器迁移用于视觉运动机器人策略

机器人学 2025-01-03 v2

摘要

基于视觉的模仿学习已展现出为机器人赋予各种运动技能的前景潜力。然而,当前的视觉运动策略难以适应其视觉观察的剧烈变化。我们提出感知拼接(Perception Stitching),通过直接拼接新的视觉编码器组合,实现对大规模视觉变化的零样本适应。我们的核心思想是通过对齐不同视觉运动策略之间的潜在视觉特征来强制视觉编码器的模块化。我们的方法 disentangles(解耦)感知知识与下游运动技能之间的关系,允许对视觉编码器的重用,通过直接将其拼接到使用部分不同视觉条件训练的策略网络上。在各种模拟和真实世界操作任务中进行评估。尽管基线方法在所有尝试中都失败了,但我们的方法在真实世界的视觉运动任务中实现了零样本成功。我们对所学策略网络特征的定量和质性分析提供了对我们方法高性能的更多见解。

关键词

引用

@article{arxiv.2406.19971,
  title  = {Perception Stitching: Zero-Shot Perception Encoder Transfer for Visuomotor Robot Policies},
  author = {Pingcheng Jian and Easop Lee and Zachary Bell and Michael M. Zavlanos and Boyuan Chen},
  journal= {arXiv preprint arXiv:2406.19971},
  year   = {2025}
}

备注

TMLR, 2024