临床决策支持系统中解释性人工智能方法的人类中心评估综述
机器学习
2026-01-26 v4 人机交互
摘要
解释性人工智能 (XAI) 对临床决策支持系统 (CDSS) 的透明性与临床采纳至关重要，但现有 XAI 方法的实际效果有限且评估方式不一致。本研究系统性地进行了 PRISMA 指导下的 31 项人类中心评估 (HCE) 调查，分类讨论其中的 XAI 方法论、评估设计及采纳障碍。我们的发现表明，大多数现有研究采用后置的、模型不可知的方法，如 SHAP 和 Grad-CAM，通常通过小规模临床医生研究进行评估。结果显示，超过 80% 的研究采用后置的、模型不可知的方法，如 SHAP 和 Grad-CAM，且临床样本规模均低于 25 名参与者。研究结果表明，解释一般能提高临床医生的信任度和诊断信心，但常常增加认知负荷，且与领域推理过程存在偏差。为弥合这些差距，我们提出了一种以利益相关者为中心的评估框架，整合了社会技术原则和人机交互，以指导未来开发临床可行且可信赖的基于 XAI 的 CDSS。
引用
@article{arxiv.2502.09849,
title = {A Survey on Human-Centered Evaluation of Explainable AI Methods in Clinical Decision Support Systems},
author = {Alessandro Gambetti and Qiwei Han and Hong Shen and Claudia Soares},
journal= {arXiv preprint arXiv:2502.09849},
year = {2026}
}
备注
19 pages, 2 tables, 4 figures