医学图像分析中临床可解释人工智能的指南与评估
机器学习
2022-12-09 v3 人工智能
计算机视觉与模式识别
图像与视频处理
摘要
可解释人工智能（XAI）对于使临床用户从AI获得知情决策支持并符合循证医疗实践至关重要。在临床环境中应用XAI需要恰当的评估标准，以确保解释技术既技术上可靠又临床上有用，但缺乏实现该目标的具体支撑。为弥合研究缺口，我们提出临床XAI指南，其包含临床XAI需优化的五项标准。指南建议基于指南1（G1）可理解性与G2临床相关性选择解释形式。针对所选解释形式，其具体XAI技术应优化G3真实性、G4信息可信度与G5计算效率。遵循指南，我们对多模态医学图像解释这一新问题结合两项临床任务开展系统评估，并相应提出新评估指标。十六种常用热图XAI技术被评估，因其不满足G3与G4而被认为不足以用于临床。我们的评估展示了临床XAI指南在支撑临床可行XAI设计与评估中的用途。
引用
@article{arxiv.2202.10553,
title = {Guidelines and Evaluation of Clinical Explainable AI in Medical Image Analysis},
author = {Weina Jin and Xiaoxiao Li and Mostafa Fatehi and Ghassan Hamarneh},
journal= {arXiv preprint arXiv:2202.10553},
year = {2022}
}
备注
Code: http://github.com/weinajin/multimodal_explanation, Supplementary Material S1 and S2: https://github.com/weinajin/multimodal_explanation/tree/main/paper