弯折自动化偏误曲线：国家安全语境下人类与基于AI的决策研究
计算机与社会
2023-06-30 v1 社会与信息网络
摘要
人工智能（AI）的用途，尤其是那些由机器学习方法驱动的用途，正在全球各行业与社会中增长。AI的采用将如何推进，特别是在国际安全领域？关于自动化偏误的研究表明，人类往往对AI过度自信，而关于算法厌恶的研究显示，随着决策风险升高，人类在对算法信任上变得更加谨慎。我们理论化了关于AI的背景知识、对AI的信任，以及这些因素如何相互作用从而影响国际安全语境中自动化偏误概率的关系。我们在一个预注册的任务识别实验中，跨越9个具有不同AI产业水平的国家的9000名成年人的代表性样本检验了这些理论。结果强烈支持该理论，特别是关于AI背景知识的部分。一种邓宁-克鲁格效应的变体似乎在起作用，即那些AI经验最低的人略微更可能算法厌恶，随后在知识水平较低时发生自动化偏误，并在受访者的AI背景达到最高水平时趋于平稳。额外结果显示了任务难度、总体AI信任，以及将人类或AI决策辅助描述为高度胜任或较不胜任所产生的影响。
引用
@article{arxiv.2306.16507,
title = {Bending the Automation Bias Curve: A Study of Human and AI-based Decision Making in National Security Contexts},
author = {Michael C. Horowitz and Lauren Kahn},
journal= {arXiv preprint arXiv:2306.16507},
year = {2023}
}