知其所知：人类能力错觉会阻碍对AI系统的恰当依赖

AI系统在各式任务中增强人类能力的炫目前景，取决于人类能否恰当地依赖它们。近期研究表明，恰当依赖是AI辅助决策中实现互补团队性能的关键。本文探讨一个未被充分研究的问题：人群中的邓宁-克鲁格效应(DKE)是否会阻碍其对AI系统的恰当依赖。DKE是一种元认知偏差，能力较低者会高估自身技能与表现。通过一项实证研究(N = 249)，我们探究了DKE对人类依赖AI系统的影响，以及此类效应能否通过揭示AI建议易错性的教程干预和利用基于逻辑单元的解释来改善用户对AI建议的理解而得以缓解。我们发现，高估自身表现的参与者倾向于表现出对AI系统的依赖不足，这阻碍了最优团队性能。基于逻辑单元的解释既无助于改善用户的能力校准，也无助于促进恰当依赖。虽然教程干预在帮助高估自我评估的参与者校准自我评估和促进恰当依赖方面极为有效，但我们发现它可能损害低估自我评估参与者的恰当依赖。我们的工作对设计应对用户认知偏差同时促进对AI系统恰当依赖的方法具有广泛启示。我们的发现推进了当前对自我评估在人机决策中塑造信任与依赖作用的理解。这为该社区相关HCI研究指明了有前景的未来方向。