不完美 XAI 对人机决策的影响

可解释性技术正快速发展，以改善各种协作工作场景下的人机决策。因此，先前研究通过考察适当的依赖程度和任务表现来评估决策者如何与不完美的 AI 协作，旨在设计更以人为中心的计算机支持协作工具。若干以人为中心的可解释 AI（XAI）技术已被提出，期望改善决策者与 AI 的协作；然而，这些技术基于先前研究的结果，而这些研究主要关注不正确 AI 建议的影响。很少有研究承认即便 AI 建议正确、解释仍可能不正确的可能性。因此，理解不完美 XAI 如何影响人机决策至关重要。在本工作中，我们贡献了一项稳健的混合方法用户研究，包含 136 名参与者，以评估在鸟类物种识别任务中不正确解释如何影响人类的决策行为，同时考虑其专业水平与解释的断言程度。我们的发现揭示了不完美 XAI 及人类专业水平对其 AI 依赖程度和人机团队表现的影响。我们还讨论了在人机协作中解释如何欺骗决策者。由此，我们阐明了不完美 XAI 在计算机支持协同工作领域的影响，并为人机协作系统设计者提供指导方针。