信任还是思考：认知强制函数可减少AI辅助决策中对AI的过度依赖
人机交互
2021-02-22 v1 人工智能
摘要
受AI驱动决策支持工具支持的人经常过度依赖AI：即使AI建议错误，他们也接受该建议。向AI决策添加解释似乎并未减少过度依赖，一些研究表明甚至可能增加它。基于认知双过程理论，我们假设人们很少对每个单独的AI推荐和解释进行分析性参与，而是形成关于是否以及何时遵循AI建议的一般启发式。基于先前医疗决策研究，我们设计了三种认知强制干预，以迫使人们更深思熟虑地参与AI生成的解释。我们进行了一项实验（N=199），将我们的三种认知强制设计与两种简单可解释AI方法和无AI基线进行比较。结果表明，与简单可解释AI方法相比，认知强制显著减少了过度依赖。然而，存在权衡：人们对减少过度依赖最多的设计给出了最不利的主观评分。为审计我们工作产生的干预引发的不平等，我们调查了我们的干预是否同等地惠及具有不同认知需求（即参与费力心理活动的动机）水平的人。我们的结果显示，平均而言，认知强制干预更多惠及认知需求较高的参与者。我们的研究表明人类认知动机调节可解释AI解决方案的有效性。
引用
@article{arxiv.2102.09692,
title = {To Trust or to Think: Cognitive Forcing Functions Can Reduce Overreliance on AI in AI-assisted Decision-making},
author = {Zana Buçinca and Maja Barbara Malaya and Krzysztof Z. Gajos},
journal= {arXiv preprint arXiv:2102.09692},
year = {2021}
}