常识道德决策的计算模型
人工智能
2018-01-16 v1
摘要
我们提出了一种新的道德决策计算模型，该模型借鉴了近期关于通过社会动态进行常识道德学习的理论。我们的模型将道德困境描述为在抽象道德维度上计算价值权衡的效用函数，当在机器主导的伦理决策中实施时，该函数可提供可解释的参量值。此外，通过将个体与群体的社会结构刻画为分层贝叶斯模型，我们表明，个体的道德价值——以及群体的共享价值——可以从有限数量的观测数据中推断出来。最后，我们将该方法应用于 Moral Machine（一个收集人类对涉及自动驾驶汽车的道德困境判断的网络应用）的数据并进行了评估。
引用
@article{arxiv.1801.04346,
title = {A Computational Model of Commonsense Moral Decision Making},
author = {Richard Kim and Max Kleiman-Weiner and Andres Abeliuk and Edmond Awad and Sohan Dsouza and Josh Tenenbaum and Iyad Rahwan},
journal= {arXiv preprint arXiv:1801.04346},
year = {2018}
}