不要被误导:人机协作中解释的错误信息效应
人机交互
2025-01-09 v2 人工智能
摘要
在各种应用中,人类越来越多地使用黑箱人工智能(AI)系统,却无法洞察这些系统的推理过程。为了应对这种不透明性,可解释AI(XAI)旨在提供解释。然而,最近的研究表明,这些解释可能并不总是准确的,甚至可能具有误导性。尽管已有研究探讨了AI如何影响人类协作,但很少有人深入研究错误解释对人类协作后行为的潜在负面影响。为了调查这一点,我们进行了一项研究(n=160),涉及人类在可解释AI辅助下的决策制定。我们的研究结果揭示了当错误的解释伴随正确的AI建议时,会产生一种错误信息效应。这种效应导致人类推断出有缺陷的推理策略,从而妨碍任务执行并表现出受损的程序性知识。此外,错误的解释还会损害协作期间的人机团队绩效。通过这项工作,我们为HCI领域贡献了实证证据,证明了错误解释对人类协作后行为的负面影响,并为AI设计者提供了指导方针。
引用
@article{arxiv.2409.12809,
title = {Don't be Fooled: The Misinformation Effect of Explanations in Human-AI Collaboration},
author = {Philipp Spitzer and Joshua Holstein and Katelyn Morrison and Kenneth Holstein and Gerhard Satzger and Niklas Kühl},
journal= {arXiv preprint arXiv:2409.12809},
year = {2025}
}