基于投票的伦理决策系统
人工智能
2018-12-20 v2 计算机与社会
计算机科学与博弈论
摘要
我们提出一种自动化伦理决策的通用方法，借鉴机器学习与计算社会选择。简而言之，我们建议学习一个社会偏好模型，并在运行时面临特定伦理困境时，高效聚合这些偏好以确定合意的选择。我们给出一个具体算法来实例化我们的方法；其若干关键步骤受到一种关于交换支配高效投票规则的新理论的启发。最后，我们利用通过 Moral Machine 网站从 130 万人收集的偏好数据，在自动驾驶汽车领域实现并评估了一个伦理决策系统。
引用
@article{arxiv.1709.06692,
title = {A Voting-Based System for Ethical Decision Making},
author = {Ritesh Noothigattu and Snehalkumar 'Neil' S. Gaikwad and Edmond Awad and Sohan Dsouza and Iyad Rahwan and Pradeep Ravikumar and Ariel D. Procaccia},
journal= {arXiv preprint arXiv:1709.06692},
year = {2018}
}
备注
25 pages; paper has been reorganized, related work and discussion sections have been expanded