医疗领域中用于人类决策支持系统的可解释人工智能
人工智能
2021-05-20 v1 计算机视觉与模式识别
人机交互
机器学习
摘要
在本文中，我们展示了可解释人工智能(XAI)方法在医学图像分析场景中用于决策支持的潜力。通过将三类可解释方法应用于同一医学图像数据集，我们旨在提升卷积神经网络(CNN)所提供决策的可理解性。视觉解释基于从视频胶囊内镜(VCE)获取的原位胃部图像给出，目标是增强卫生专业人员对黑盒预测的信任。我们实现了两种事后可解释机器学习方法 LIME 和 SHAP，以及另一种以情境价值与效用(CIU)为核心的解释方法 CIU。所产生的解释通过人工评估进行评价。我们基于 LIME、SHAP 和 CIU 提供的解释开展了三项用户研究。来自不同非医学背景的用户在基于网络的调查设置中完成了一系列测试，并陈述了他们对所给解释的体验与理解。三个用户组(n=20, 20, 20)配合三种不同形式的解释进行了定量分析。我们发现，正如假设所示，CIU 可解释方法在增进对人类决策的支持以及更具透明性从而对用户更易懂方面，表现优于 LIME 和 SHAP 两种方法。此外，CIU 因生成解释更迅速而优于 LIME 和 SHAP。我们的研究结果表明，不同解释支持设置下人类决策存在显著差异。据此，我们提出了三种潜在的可解释方法，随着未来实现的改进，可推广至不同医学数据集，并为医学专家提供有力决策支持。
引用
@article{arxiv.2105.02357,
title = {Explainable Artificial Intelligence for Human Decision-Support System in Medical Domain},
author = {Samanta Knapič and Avleen Malhi and Rohit Saluja and Kary Främling},
journal= {arXiv preprint arXiv:2105.02357},
year = {2021}
}