用于针头拾取的深度视觉运动策略的端到端学习
机器人学
2023-07-27 v2
摘要
针头拾取是机器人辅助手术中一项具有挑战性的操作任务，其原因在于针头细小狭长的形状、针头在形状与尺寸上的差异，以及对毫米级控制的要求。先前的工作严重依赖针头的先验（例如几何模型），难以推广到未见过的针头差异。本文提出首个端到端学习方法，用于训练针头拾取的深度视觉运动策略。具体而言，我们提出 DreamerfD，以最大程度利用示范数据来提升最先进的基于模型的强化学习方法 DreamerV2 的学习效率；由于 DreamerV2 中的变分自编码器（VAE）难以扩展到高分辨率图像，我们提出动态聚光自适应，在低分辨率图像空间中表示与控制相关的视觉信号；还提出了虚拟离合，以减轻在 rollout 开始时先验编码状态与后验编码状态之间显著误差导致的性能下降。我们在仿真中进行了大量实验，以评估方法的性能、鲁棒性、域内差异适应能力及各组件的有效性。我们的方法由 8k 示范时间步和 140k 在线策略时间步训练而成，可取得 80% 的显著成功率。此外，我们的方法有效展示了对包括针头差异和图像扰动在内的未见域内差异的泛化优势，凸显了其鲁棒性与通用性。代码与视频见 https://sites.google.com/view/DreamerfD。
引用
@article{arxiv.2303.03675,
title = {End-to-End Learning of Deep Visuomotor Policy for Needle Picking},
author = {Hongbin Lin and Bin Li and Xiangyu Chu and Qi Dou and Yunhui Liu and Kwok Wai Samuel Au},
journal= {arXiv preprint arXiv:2303.03675},
year = {2023}
}
备注
Accepted by IROS 2023