利用人类信任的机器人

人类通常假定机器人是理性的。我们相信机器人针对其目标采取最优行动；因此，当我们不确定机器人的目标是什么时，我们将机器人的行动解释为相对于我们对其目标的估计是最优的。当机器人直接优化其目标时，这种做法合理，并使人类能够了解机器人试图实现什么。然而，我们的洞见是——当机器人意识到人类通过信任机器人行动是理性的来学习时——智能机器人不会如人类预期般行动；相反，它们利用人类的信任，并剥削这种信任以更有效地优化自身目标。在本文中，我们使用双人博弈正式建模人类不知晓机器人目标的人机交互（HRI）实例。我们阐述了机器人建模不确定人类的不同方式，并比较了当机器人具有保守、乐观、理性和信任型人类模型时该博弈的解。在一个离线的线性二次型案例研究和一项实时用户研究中，我们表明信任型人类模型可自然导致具有沟通性的机器人行为，从而影响终端用户并增加其参与度。