可解释人工智能如何影响人类表现：基于显著性图的行为后果系统综述
人机交互
2024-08-20 v2 人工智能
摘要
显著性图可以解释深度神经网络如何对图像进行分类。但它们对人类真的有用吗？本系统综述对68项用户研究进行了分析，发现虽然显著性图能够提升人类表现，但无效甚至负面效应也相当常见。为探究调节这些效应的因素，实证结果按照人类任务、AI性能、XAI方法、待分类图像、人类参与者及比较条件等多个维度进行了组织。在图像聚焦型任务中，收益比AI聚焦型任务中更少见，但效应取决于具体的认知需求。此外，收益通常局限于AI聚焦型任务中AI预测错误的情况，而在图像聚焦型任务中则局限于AI预测正确的情况。XAI相关因素的影响出奇地小。关于图像和人类相关因素的证据有限，且效应高度依赖于比较条件。这些发现可能为未来用户研究的设计提供支持。
引用
@article{arxiv.2404.16042,
title = {How explainable AI affects human performance: A systematic review of the behavioural consequences of saliency maps},
author = {Romy Müller},
journal= {arXiv preprint arXiv:2404.16042},
year = {2024}
}