可解释人工智能在人机决策中效用的元分析
人机交互
2022-06-02 v2 人工智能
摘要
人工智能(AI)辅助决策的研究正经历迅猛增长,不断有研究评估带与不带可解释AI(XAI)领域技术的AI对人类决策表现的影响。然而,由于任务与实验设置因目标不同而各异,部分研究报告XAI提升了用户决策表现,而另一些仅报告了可忽略的影响。因此,本文通过统计元分析对现有XAI研究进行初步综合,以跨已有研究得出启示。我们观察到XAI对用户表现具有统计上正向的影响。此外,初步结果表明,人机决策在文本数据上往往能取得更好的任务表现。然而,相较于仅由AI给出预测,我们发现解释对用户表现并无影响。我们的初步综合引出了未来探究其潜在成因的研究,并有助于进一步开发通过提供有意义解释来切实惠及人类决策者的算法。
引用
@article{arxiv.2205.05126,
title = {A Meta-Analysis of the Utility of Explainable Artificial Intelligence in Human-AI Decision-Making},
author = {Max Schemmer and Patrick Hemmer and Maximilian Nitsche and Niklas Kühl and Michael Vössing},
journal= {arXiv preprint arXiv:2205.05126},
year = {2022}
}
备注
AAAI/ACM Conference on AI, Ethics, and Society (AIES'22)