面向人类的可解释人工智能系统设计与评估：系统性综述与分类
人工智能
2025-10-15 v1
摘要
随着人工智能在日常生活中变得越来越常见，对既高效又易于理解的智能系统需求日益增长。可解释人工智能（XAI）系统旨在提供对决策和预测的可理解解释。目前 however，评估过程较为技术化，未充分关注人类用户的需求。因此，涉及人类用户的评估研究可为进行用户研究提供有价值的指南。本文对 65 项评估 XAI 系统的用户研究进行了全面综述，涵盖不同领域和应用情境。作为 XAI 开发者的指南，我们提供了 XAI 系统属性和以人类用户为中心的评估指标（human-centered）的全面概述。我们提出了面向人类的可解释人工智能系统设计（design goals）的目标。为融合用户的具体特征，设计目标需针对不同 AI 专业知识水平的用户（AI 初学者和数据专家）进行调整。因此，我们提供了现有 XAI 评估和设计框架的扩展。本文结果的前半部分包括对 XAI 系统特性的分析。重要发现是区分核心系统与 XAI 解释，两者共同构成整个系统。进一步的结果包括将评估指标区分为对系统的情感、认知、可用性、可解释性和解释指标。此外，用户及其具体特征和行为也可被评估。对于 AI 初学者，相关的扩展设计目标包括负责任的使用、接受度和可用性。对于数据专家，重点在于以绩效为导向，包括人机协作和系统及用户任务绩效。
引用
@article{arxiv.2510.12201,
title = {On the Design and Evaluation of Human-centered Explainable AI Systems: A Systematic Review and Taxonomy},
author = {Aline Mangold and Juliane Zietz and Susanne Weinhold and Sebastian Pannasch},
journal= {arXiv preprint arXiv:2510.12201},
year = {2025}
}