识别终端用户的解释需求：应用并扩展XAI问题库
人机交互
2023-07-19 v1
摘要
可解释人工智能（XAI）中的解释通常由AI专家开发，侧重于算法透明性与AI系统的内部机制。研究表明，此类解释无法满足不具备AI专业知识的用户之需求。因此，解释在使系统决策可解释和易懂方面往往收效甚微。我们旨在遵循以人为中心的可解释人工智能（HC-XAI）方法，强化AI的社会技术视角，该方法研究特定使用情境下终端用户（即领域专家与普通用户）的解释需求。该领域最具影响力的成果之一是由Liao等人提出的XAI问题库（XAIQB）。作者提出了一组终端用户在使用AI系统时可能提出的问题，进而旨在帮助开发者和设计者识别并满足解释需求。尽管XAIQB被广泛引用，其在实践中的应用报道却很少。具体而言，XAIQB在多大程度上充分涵盖了终端用户的解释需求，以及其在实际应用中存在哪些潜在问题，目前尚不清楚。为探究这些开放问题，我们以XAIQB为基础，对12次领域专家的出声思考软件探索进行了分析。我们考察了XAIQB作为特定使用情境中识别解释需求工具的适用性。分析揭示了若干问题库未涵盖、但在参与者与AI系统交互过程中反复出现的解释需求。我们还发现，XAIQB中部分问题难以区分，在使用中需要加以解读。我们的贡献是将XAIQB扩展了11个新问题，并扩充了所有新问题和原有问题的描述以便于使用。
引用
@article{arxiv.2307.09369,
title = {Identifying Explanation Needs of End-users: Applying and Extending the XAI Question Bank},
author = {Lars Sipos and Ulrike Schäfer and Katrin Glinka and Claudia Müller-Birn},
journal= {arXiv preprint arXiv:2307.09369},
year = {2023}
}