整体胜于部分之和？AI 解释对互补团队绩效的影响
人工智能
2021-01-14 v3 计算与语言
人机交互
机器学习
摘要
许多研究者以研究表明当 AI 解释其推荐时，人类-AI 团队在决策任务上的表现会提升，来论证可解释 AI 的动机。然而，先前研究仅在 AI 单独表现优于人类和最优团队时，才观察到解释带来的提升。解释能否有助于产生互补绩效，即团队准确率高于人类或 AI 单独工作？我们在三个数据集上开展混合方法用户研究，其中准确率与人类相当的 AI 帮助参与者解决任务（在某些条件下解释自身）。虽然我们观察到 AI 增强带来的互补提升，但其并未因解释而增加。相反，解释增加了人类接受 AI 推荐的可能性，无论其是否正确。我们的结果对以人为中心的 AI 提出新挑战：我们能否开发鼓励对 AI 恰当信任、从而有助于产生（或提升）互补绩效的解释方法？
引用
@article{arxiv.2006.14779,
title = {Does the Whole Exceed its Parts? The Effect of AI Explanations on Complementary Team Performance},
author = {Gagan Bansal and Tongshuang Wu and Joyce Zhou and Raymond Fok and Besmira Nushi and Ece Kamar and Marco Tulio Ribeiro and Daniel S. Weld},
journal= {arXiv preprint arXiv:2006.14779},
year = {2021}
}
备注
CHI'21