在多模态医学影像任务上评估可解释AI：现有算法能否满足临床需求？
计算机视觉与模式识别
2023-10-17 v2 人工智能
摘要
能够向临床终端用户解释预测，是利用人工智能（AI）模型进行临床决策支持的必要条件。对于医学图像，特征归因图（或热图）是最常用的解释形式，可突出AI模型预测的重要特征。然而，目前尚不清楚热图在解释多模态医学图像决策时的表现如何，其中每个图像模态或通道可视化同一底层生物医学现象的不同临床信息。理解这种模态依赖特征对临床用户解读AI决策至关重要。为解决这一临床重要但技术被忽视的问题，我们提出模态特定特征重要性（MSFI）度量。它编码了模态优先级与模态特定特征定位的临床图像与解释解读模式。我们使用计算方法和临床医生用户研究，进行了基于临床需求的系统性评估。结果表明，所考察的16种热图算法未能满足正确指示AI模型决策过程或决策质量的临床需求。该评估与MSFI度量可指导XAI算法的设计与选择，以满足多模态解释上的临床需求。
引用
@article{arxiv.2203.06487,
title = {Evaluating Explainable AI on a Multi-Modal Medical Imaging Task: Can Existing Algorithms Fulfill Clinical Requirements?},
author = {Weina Jin and Xiaoxiao Li and Ghassan Hamarneh},
journal= {arXiv preprint arXiv:2203.06487},
year = {2023}
}
备注
AAAI 2022