通过集值意图预测实现风险校准的人机交互

机器人必须预测人类意图的任务，例如在杂乱的家中导航或分类日常物品，具有挑战性，因为它们展现出导致相似结果的各种有效动作。此外，人机伙伴之间的零样本合作是一个特别具有挑战性的问题，因为它要求机器人即时推断并适应潜在的人类意图，而该意图可能因人而异。最近，深度学习运动预测模型在预测人类意图方面显示出有希望的结果，但容易自信地出错。在这项工作中，我们提出了风险校准交互规划（RCIP），这是一个用于测量和校准人机合作中与不确定动作选择相关的风险的框架，其基本思想是当与人类意图不确定性相关的风险无法控制时，机器人应请求人类澄清。RCIP建立在集值风险校准理论之上，为机器人在复杂的多步设置中产生的累积损失提供有限样本统计保证，同时最小化人类澄清的成本。我们的主要见解是将风险控制问题构建为一个序列级的多假设检验问题，从而允许使用一个控制预训练风险感知策略的低维参数进行高效校准。在各种模拟和真实世界环境中的实验证明了RCIP预测和适应多样化动态人类意图集的能力。