伦理机器人的阴暗面

对人工智能进步所带来风险的担忧，促使人们呼吁加大力度发展稳健且有益的人工智能，包括机器伦理学。近期，机器人学家已作出响应，开始研发所谓的伦理机器人。理想情况下，这些机器人能够评估其行为的后果，并在道德上证明其选择的合理性。这一新兴领域有望在未来几年得到广泛发展。然而，在本文中，我们指出了伦理机器人这一新兴领域的一个固有局限性。我们表明，构建伦理机器人也必然促进非伦理机器人的制造。在三个实验中，我们展示了修改一个伦理机器人使其表现出竞争性甚至攻击性行为是极其容易的。其原因在于，制造伦理机器人所需的特定人工智能总是可以被利用来制造非伦理机器人。因此，伦理机器人的发展并不能保证人工智能的负责任部署。在倡导伦理机器人的同时，我们得出结论：防止机器人滥用超出了工程学的范畴，而需要以立法为支撑的治理框架。否则，伦理机器人的发展将增加而非减少机器人不当行为的风险。