“冷漠的技术决策者”：AI 能否提供可解释性、可协商性与人性？
计算机与社会
2020-12-03 v1
摘要
算法系统正日益被部署以在人们生活的诸多领域做出决策。从人类决策到算法决策的转变伴随着对可能不透明且与社会价值不符决策的担忧，以及诸如可解释性等已提出的补救措施。我们呈现了一项关于算法决策的定性研究结果，该研究由在芬兰、德国、英国和美国共 60 名参与者参与的五场工作坊组成。我们邀请参与者在多种领域中思考可解释性与准确性等决策品质。参与者将 AI 视为遵循僵化标准且擅长机械任务的决策者，但在很大程度上无力进行主观或道德复杂的判断。我们讨论了参与者对决策中人性的考量，并引入“可协商性”这一概念，即超越形式标准并围绕系统灵活变通的能力。
引用
@article{arxiv.2012.00874,
title = {"A cold, technical decision-maker": Can AI provide explainability, negotiability, and humanity?},
author = {Allison Woodruff and Yasmin Asare Anderson and Katherine Jameson Armstrong and Marina Gkiza and Jay Jennings and Christopher Moessner and Fernanda Viegas and Martin Wattenberg and and Lynette Webb and Fabian Wrede and Patrick Gage Kelley},
journal= {arXiv preprint arXiv:2012.00874},
year = {2020}
}
备注
23 pages, 1 appendix, 4 tables