迈向道德自主系统
人工智能
2017-11-01 v3
摘要
自主系统的伦理学及其技术实现问题迄今已得到一定细致的研究。较少关注这两个独立关注点相交的领域。本文由自主系统的哲学家和工程师共同撰写，探讨了恰好位于伦理与工程交叉处的机器伦理中的若干问题。我们首先讨论我们认为机器伦理给道德哲学带来的主要挑战。然后我们考虑自主系统概念设计的不同方法及其对此类系统中伦理实现的影响。接着我们考察关于自主系统中伦理行为的规约与验证的问题区域，特别是着眼于未来立法的要求。我们讨论了透明度和问责问题，这些对于任何自主系统未来在社会中的广泛部署都至关重要。最后我们考虑了往往被忽视的AI系统蓄意滥用的可能性，以及出于故意不道德的设计、实现和使用自主机器人而产生的可能危险。
引用
@article{arxiv.1703.04741,
title = {Towards Moral Autonomous Systems},
author = {Vicky Charisi and Louise Dennis and Michael Fisher and Robert Lieck and Andreas Matthias and Marija Slavkovik and Janina Sombetzki and Alan F. T. Winfield and Roman Yampolskiy},
journal= {arXiv preprint arXiv:1703.04741},
year = {2017}
}