我们信任 AI 吗？影响 AI 融合决策过程可信度的因素
计算机与社会
2019-12-06 v1
摘要
许多决策过程已开始纳入 AI 要素，包括刑期建议、大学录取、招聘与抵押贷款审批。在所有这些情形中，AI 模型被训练以协助人类决策者作出准确且公平的判断，但关于哪些因素影响人们认为 AI 融合决策过程可信的程度，尚知之甚少。我们旨在理解关于决策过程及其所支持的 AI 模型的不同因素，如何影响人们对该过程可信度的感知。我们报告了在基于场景的研究中，七个不同因素——决策利害、决策权限、模型训练者、模型可解释性、社会透明度与模型置信度——如何影响信任评分的评估。
引用
@article{arxiv.1912.02675,
title = {In AI We Trust? Factors That Influence Trustworthiness of AI-infused Decision-Making Processes},
author = {Maryam Ashoori and Justin D. Weisz},
journal= {arXiv preprint arXiv:1912.02675},
year = {2019}
}
备注
10 pages