通过环境设计减少人机目标状态差异

创建成功的人机协作中最困难的挑战之一是将机器人的行为与人类用户的期望对齐。当这种情况未能发生时，机器人可能会误解其指定的目标，导致其执行具有意外、潜在危险副作用的动作。为了避免这种情况，我们提出了一种新的度量标准，称为目标状态差异（GSD），它表示机器人的最终目标状态与人类用户期望的目标状态之间的差异。在无法直接计算GSD的情况下，我们展示了如何使用最大和最小界限来近似它。然后，我们将GSD值输入到我们新颖的人机目标对齐（HRGA）设计问题中，该问题识别出一组最小的环境修改，可以防止此类不匹配。为了展示GSD在减少人机目标状态差异方面的有效性，我们在几个标准基准上对我们的方法进行了实证评估。