人类对 AI 道德责任的感知：以 AI 辅助保释决策为例
计算机与社会
2021-02-02 v1 人工智能
人机交互
摘要
如何为自主人工智能（AI）系统的行为归因责任，已在人文学科和社会科学领域被广泛讨论。本研究呈现两个实验（各 =200），测量人们在保释决策情境下对 AI 与人类主体的八种不同道德责任概念的感知。使用改编自真实生活的情境短文，我们的实验表明，对于相同任务，AI 主体被施加的因果责任与责备与人类主体相似。然而，人们对这些主体的道德责任的感知存在显著差异；与人类主体相比，人类主体被赋予更高程度的前瞻性与后顾性责任概念。我们还发现，无论性质如何，人们期望 AI 与人类决策者和顾问都对其决策作出解释。我们讨论了这些发现的政策与 HCI 启示，例如在高风险场景中需要可解释 AI。
引用
@article{arxiv.2102.00625,
title = {Human Perceptions on Moral Responsibility of AI: A Case Study in AI-Assisted Bail Decision-Making},
author = {Gabriel Lima and Nina Grgić-Hlača and Meeyoung Cha},
journal= {arXiv preprint arXiv:2102.00625},
year = {2021}
}
备注
17 Pages, 5 Figures, ACM CHI 2021