适应人类偏好对人机协作中信任的影响

我们展示了在人机协作任务中适应人类偏好对信任的影响。该团队执行一项任务，其中机器人作为行动推荐者向人类提出建议。假设人类和机器人的行为基于它们试图优化的某个奖励函数。我们使用一种新的人类信任-行为模型，使机器人能够在交互过程中利用贝叶斯逆强化学习实时学习并适应人类的偏好。我们提出了机器人与人类交互的三种策略：非学习策略，即机器人假设人类的奖励函数与机器人自身相同；非自适应学习策略，其学习人类奖励函数用于性能估计，但仍优化自身的奖励函数；以及自适应学习策略，其学习人类奖励函数用于性能估计并同时优化该学习到的奖励函数。结果表明，适应人类奖励函数带来了对机器人最高的信任度。