一种面向伦理机器人的架构

机器人正变得日益自主。这种不断扩展的无人监督决策能力使得必须建立机制以保证机器人执行行为的安全性。此外，智能自主机器人应该不仅仅是安全的；它们还应是明确符合伦理的——能够选择并证明防止伤害的行为是合理的。事实上，随着机器人认知、感知和运动能力的扩展，人们将期望它们具备更高的道德判断能力。我们提出了一种补充现有机器人控制器的控制架构。这个所谓的伦理层通过预测可能行为的结果并根据预定伦理规则评估这些预测结果，确保机器人按照该规则行事。为了验证所提出的架构，我们在仿人机器人上实现了它，使其行为符合阿西莫夫机器人定律。在一系列四个实验中，使用另一个仿人机器人作为人类的代理，我们证明了所提出的伦理层使机器人能够防止人类受到伤害。