公共部门决策中的人-AI交互:对算法建议的“自动化偏差”与“选择性遵从”
人机交互
2022-06-09 v3 人工智能
摘要
人工智能算法正日益被公共机构采纳为决策辅助工具,有望克服人类决策者的偏见。与此同时,它们可能在人-算法交互中引入新的偏见。借鉴心理学和公共行政文献,我们研究两种关键偏见:即使面对其他来源的警示信号仍过度依赖算法建议(自动化偏差),以及当算法建议符合刻板印象时选择性采纳(选择性遵从)。我们通过荷兰开展的三项实验研究评估这些偏见。我们讨论了研究发现对自动化时代公共部门决策的影响。总体而言,我们的研究揭示了行政国家自动化对已然脆弱和弱势公民的潜在负面影响。
引用
@article{arxiv.2103.02381,
title = {Human-AI Interactions in Public Sector Decision-Making: "Automation Bias" and "Selective Adherence" to Algorithmic Advice},
author = {Saar Alon-Barkat and Madalina Busuioc},
journal= {arXiv preprint arXiv:2103.02381},
year = {2022}
}
备注
Paper published in Journal of Public Administration Research and Theory (2022)