迈向结合机器伦理与机器可解释性的框架
人工智能
2019-01-04 v1 计算机与社会
摘要
我们发现自己被迅速增多的自主与半自主系统所包围。这一发展带来了两大挑战：机器伦理(Machine Ethics)与机器可解释性(Machine Explainability)。一方面，机器伦理关注系统的行为约束，以产生道德上可接受、受限的行为；另一方面，机器可解释性使系统能够解释其行动并为自己的决策辩护，从而人类用户能够理解并合理地信任它们。在本文中，我们试图激发并致力于一个结合机器伦理与机器可解释性的框架。从一个玩具示例出发，我们探明了此类框架的多种期望属性，并论证了它们为何应当以及如何被纳入自主系统。我们的主要思想是应用形式化论证理论框架，既用于伦理约束下的决策制定，也用于在仅有有限世界知识情况下生成有用解释的任务。我们思考的结果可被描述为一个受伦理驱动、原则引导的结合机器伦理与机器可解释性框架的初版。
引用
@article{arxiv.1901.00590,
title = {Towards a Framework Combining Machine Ethics and Machine Explainability},
author = {Kevin Baum and Holger Hermanns and Timo Speith},
journal= {arXiv preprint arXiv:1901.00590},
year = {2019}
}
备注
In Proceedings CREST 2018, arXiv:1901.00073