迈向可验证的伦理机器人行为

确保自主系统合乎伦理地工作既复杂又困难。然而，增设一个“调节器”来评估系统拥有的选项，并剪枝以选择最伦理的选择，这一想法已被充分理解。近期工作产生了这样一个由“后果引擎”组成的调节器，该引擎评估行动的潜在未来结果，然后应用安全/伦理逻辑来选择行动。尽管这很有吸引力，但无法确定实际采取的是否是最伦理的选项。在本文中，我们扩展并应用一种著名的智能体验证方法到我们的后果引擎，使我们能够验证其伦理决策的正确性。