道德机器还是多数人的暴政？
计算机与社会
2023-05-30 v1 人工智能
计算机科学与博弈论
摘要
随着人工智能系统在重大领域中的应用日益增多，研究者开始探讨在这些即便人类也缺乏共识的伦理情境下，此类系统应当如何行动。在 Moral Machine 项目中，研究者通过众包方式收集了关于自动驾驶汽车的“电车难题”的回答。随后，Noothigattu 等人（2018）提出推断近似每个个体偏好的线性函数，并通过跨人群平均参数来聚合这些线性模型。本文中，我们考察这一平均机制，重点关注存在策略效应时的公平性担忧。我们研究了一个简单设定：人群由两组构成，少数群体占人群比例 α < 0.5。为简化分析，我们考虑组内偏好同质的极端情形。聚焦于少数群体获胜的争议案例所占比例，我们作出如下观察：(a) 即便各方如实报告偏好，少数群体获胜的争议比例也小于 α 的占比；(b) 随着组间分歧程度加剧，这种低于占比的程度愈发严重；(c) 当各方策略性地报告偏好时，纯策略均衡并非总是存在；且 (d) 只要纯策略均衡存在，多数群体在 100% 的情况下获胜。这些发现引发了人们对将偏好向量平均作为聚合分歧声音的机制在稳定性与公平性上的担忧。最后，我们讨论了替代方案，包括随机独裁与基于中位数的机制。
引用
@article{arxiv.2305.17319,
title = {Moral Machine or Tyranny of the Majority?},
author = {Michael Feffer and Hoda Heidari and Zachary C. Lipton},
journal= {arXiv preprint arXiv:2305.17319},
year = {2023}
}
备注
To appear in the proceedings of AAAI 2023