能够建议安全替代方案的机器人

目标导向策略（如通过仿射学习获得的策略）为人类轻松地影响机器人完成什么任务提供了便利。然而，这些机器人策略在面对超出分布的请求时，可能无法保证安全执行，也可能无法成功。本文使机器人能够识别自己能够自信执行用户期望目标的情况，并在无法执行时自动建议安全的替代方案。我们的做法灵感来自控制论安全滤波，其中安全滤波最小化地调整机器人的候选动作以实现安全。我们的关键思想是将替代方案建议作为目标空间中的安全控制问题来提出，而不是在动作空间中。离线时，我们使用可达性分析计算以目标参数化的可达-避让价值网络，该网络量化了机器人预训练策略的安全性和存活性。在线时，机器人将可达-避让价值网络用作安全滤波器，监控用户给定的目标，主动建议类似但满足安全规范的替代方案。我们在室内导航和Franka Panda桌面操纵的仿真实验中展示了我们的Safe ALTernatives（SALT）框架，包括离散目标和连续目标表示。我们发现SALT能够学习预测成功的闭环执行和失败的闭环执行，是开环不确定性量化的保守监控器，并且提出的替代方案始终与人类认为可接受的一致。