一种具有交互行为的人本安全机器人强化学习框架
机器人学
2023-10-18 v3 人工智能
摘要
在现实世界中部署用于机器人应用的强化学习（RL）算法需要确保机器人及其环境的安全。安全机器人RL（SRRL）是实现人机共存的关键一步。在本文中，我们构想了一个由三个阶段组成的人本SRRL框架：安全探索、安全价值对齐和安全协作。我们考察了这些领域中的研究空白，并提议利用交互行为来实现SRRL。交互行为能够实现人与机器人之间的双向信息传输，例如对话式机器人ChatGPT。我们认为交互行为需要SRRL领域的进一步关注。我们讨论了与具有交互行为的SRRL在鲁棒性、效率、透明度和适应性方面相关的四个开放挑战。
引用
@article{arxiv.2302.13137,
title = {A Human-Centered Safe Robot Reinforcement Learning Framework with Interactive Behaviors},
author = {Shangding Gu and Alap Kshirsagar and Yali Du and Guang Chen and Jan Peters and Alois Knoll},
journal= {arXiv preprint arXiv:2302.13137},
year = {2023}
}