字面还是教学式人类？目标学习中人类模型误设定的分析

系统设计师极易对自主系统（“机器人”）设定错误的目标，这催生了让机器人从人类行为中学习目标的动机。近期研究指出，人们希望机器人表现良好，因此会进行教学式行为，选择对机器人有信息量的动作。相应地，机器人通过将这种教学性纳入考量来解释行为会受益。本工作中我们关注误设定：我们认为机器人可能不知道人们是教学式还是字面式的，并且追问哪种假设更安全至关重要。我们将目标学习纳入机器人与人类之间共同收益博弈的更一般形式，并证明在任何此类博弈中字面式解释对误设定更为鲁棒。基于人类数据的实验支持了我们的理论结果，并指向教学式假设的敏感性。