可解释人工智能在视觉质量控制中的收益与代价：来自故障检测表现与眼动的证据
人机交互
2024-08-20 v2
摘要
视觉检测任务常要求人类与基于 AI 的图像分类器协作。为增强此协作，可解释人工智能（XAI）可高亮那些对 AI 决策有贡献的图像区域。然而，关于视觉提示的文献表明，此类 XAI 支持可能伴随其自身的代价。为更好理解 XAI 的收益与代价如何依赖于 AI 分类与 XAI 高亮的准确性，我们开展了两个模拟巧克力工厂中视觉质量控制的实验。参与者须判断巧克力模具是否含有缺陷棒，且始终被告知 AI 是否将该模具分类为缺陷。在实验的一半中，他们额外看到证明此分类的 XAI 高亮。虽然 XAI 加快了表现，其对错误率的影响高度依赖于（X）AI 准确性。当系统正确检测并高亮缺陷时观察到 XAI 收益，但对于标记了完好区域而实际缺陷位于他处的错位高亮则显现出 XAI 代价。眼动分析表明，参与者花更少时间搜索模具其余部分，从而更少看到缺陷。然而，我们也观察到巨大的个体差异。综上，结果表明尽管有其潜力，XAI 会阻碍人们投入精力进行自身信息分析。
引用
@article{arxiv.2310.01220,
title = {The benefits and costs of explainable artificial intelligence in visual quality control: Evidence from fault detection performance and eye movements},
author = {Romy Müller and David F. Reindel and Yannick D. Stadtfeld},
journal= {arXiv preprint arXiv:2310.01220},
year = {2024}
}