面向人类的可解释人工智能设计：经验研究综述

随着 AI 研究的进步，AI 正在越来越多地被应用于诸多领域，从日常低风险任务（如电影推荐）到医疗、刑事司法决策等高风险任务。可解释性正成为人们理解、信任并采纳 AI 应用的关键要求。尽管 AI 研究社区产生了大量可解释 AI（XAI）算法，但实际应用中成功的 XAI 实例仍相对稀缺。这可能源于 XAI 设计的目标与最终用户的感知之间存在差距。由于可解释性本质上是人类中心的属性，XAI 领域正逐渐接受人类中心的方法，并越来越强调通过涉及人类主体进行 XAI 设计的经验研究。为推进对人类中心 XAI 设计经验研究的系统性综述，本文首先概述了现有经验研究中常用的 XAI 算法技术图景。随后，我们分析了多样化的利益相关者和需求发现方法。接着，本文概述了当前人类中心 XAI 设计所探索的设计空间。进一步地，我们总结了基于评估目标的评估指标。随后，我们分析了来自现有研究所得出的常见发现和陷阱。对于每个章节，我们提供了当前挑战和研究机遇的概述。最后，我们以一个面向人类中心 XAI 设计的框架总结了本综述。