AI医学影像诊断可解释性的用户中心分析
人机交互
2026-05-06 v1 人工智能
计算机视觉与模式识别
摘要
近年来，医学领域的人工智能系统取得了显著进展。然而，尽管它们在性能上超过了人类，却几乎不被实际应用，因为往往不清楚它们是如何做出决策的。最佳解释和决策过程的可视化往往缺乏。因此，我们对最新状态的文本、视觉和多模态可解释人工智能（XAI）方法进行了用户中心的比较分析，专注于医学影像诊断。我们的调查了33名医生，显示88%的受访者同意AI应解释诊断结果——其中64%甚至强烈同意。在评估的方面（可理解性、完整性、速度和适用性）中，结合边界框和报告的组合在其他所测试的XAI方法中得分更高。我们甚至测试了人为医学影像诊断错误的潜在负面影响，发现50%的受访者在所有所测试的XAI方法中，都更信任错误的AI诊断结果。
引用
@article{arxiv.2605.02903,
title = {A User-Centric Analysis of Explainability in AI-Based Medical Image Diagnosis},
author = {Julia Wagner and Tim Schlippe},
journal= {arXiv preprint arXiv:2605.02903},
year = {2026}
}
备注
The 4th International Workshop on eXplainable Artificial Intelligence in Healthcare, Pavia, Italy, 26 June 2025