AI 是否能建模人类道德决策的复杂性？关于肾脏分配决策的定性研究
人机交互
2025-03-04 v1 人工智能
计算机与社会
摘要
伦理 AI 领域的工作试图通过简单计算模型捕捉人类道德判断。本 work 关注肾脏分配这一用例，探讨此类简单 AI 模型是否捕捉道德决策中的关键细微差别。我们进行了二十次访谈，参与者解释了他们对谁应该获得肾脏移植这一问题的判断依据。我们观察到参与者：(a) 对不同程度的道德相关属性有不同的价值重视程度；(b) 使用多样化的决策过程，引用启发式方法以降低决策复杂度；(c) 可能会改变他们的意见；(d) 有时对自己的决定缺乏信心（例如由于信息不完整）；(e) 对 AI 在肾脏分配中协助人类决策表现出热情和关切。基于这些发现，我们讨论了将道德判断建模为人类输入的替代方案的挑战，概述当前方法的缺点，并提出未来方向以解决这些问题。
引用
@article{arxiv.2503.00940,
title = {Can AI Model the Complexities of Human Moral Decision-Making? A Qualitative Study of Kidney Allocation Decisions},
author = {Vijay Keswani and Vincent Conitzer and Walter Sinnott-Armstrong and Breanna K. Nguyen and Hoda Heidari and Jana Schaich Borg},
journal= {arXiv preprint arXiv:2503.00940},
year = {2025}
}
备注
In ACM Conference on Human Factors in Computing Systems (CHI), 2025