面向未知任务触觉共享控制的深度强化学习
机器人学
2024-10-28 v1 机器学习
摘要
近年来,在遥操作系统中使用触觉共享控制(HSC)的兴趣日益增长。在 HSC 中,虚拟引导力的施加降低了用户的控制负担并改善了各类任务的执行时间,相较于直接遥操作是一种良好替代。尽管 HSC 展现出良好性能,却带来了新的缺口:如何设计引导力。因此,挑战在于开发控制器以为正在执行的任务提供最优引导力。本工作通过设计基于深度确定性策略梯度(DDPG)算法的控制器来提供辅助,并利用卷积神经网络(CNN)进行任务检测,称为 TAHSC(Task Agnostic Haptic Shared Controller,任务无关触觉共享控制器),以应对该挑战。智能体学习最小化人类执行期望任务所需时间,同时最小化其对所提供反馈的抵抗。该抵抗由此为学习算法提供关于人类试图遵循方向的信息,本例中为拾放任务。多种结果表明,通过为每位被要求测试系统的用户学习定制策略,所提方法得以成功应用。它表现出稳定收敛,并协助用户以尽可能最少的时间完成任务。
引用
@article{arxiv.2101.06227,
title = {Deep Reinforcement Learning for Haptic Shared Control in Unknown Tasks},
author = {Franklin Cardeñoso Fernandez and Wouter Caarls},
journal= {arXiv preprint arXiv:2101.06227},
year = {2024}
}
备注
This work has been submitted to the IEEE for possible publication