面向可解释可靠医学图像分析的不确定性感知信息探索
计算机视觉与模式识别
2026-05-07 v3
摘要
要在医学图像分析等安全关键领域获得采纳，AI 系统必须提供人类可解释的决策。变分信息探索 (V-IP) 提供了一种以可解释为设计的框架，通过顺序查询输入图像以获取人类可理解的概念，并利用其存在或缺失情况进行预测。然而，现有 V-IP 方法忽略了概念预测中样本特定的不确定性，这种不确定性可能源于模糊特征或模型局限性，导致查询选择次优且降低鲁棒性。本文提出了一种可解释且不确定性感知的医学影像框架，解决了上述局限性，通过考虑概念基于、可解释的模型中的上游不确定性。具体而言，我们引入两种不确定性感知模型，EUAV-IP 和 IUAV-IP，将不确定性估计整合到 V-IP 查询过程中，以针对每个样本优先选择更可靠的概念。EUAV-IP 通过掩码跳过不确定的概念，而 IUAV-IP 隐式地将不确定性纳入查询选择，从而实现更有信息且符合临床实践的决策。我们的方案使模型能够在无需人工干预的情况下，基于针对每个个体样本量身定制的概念子集作出可靠决策，同时保持整体可解释性。我们在包括皮肤镜、X 光、超声和血细胞成像等四种模态的五个医学图像数据集上进行评估。所提出的 IUAV-IP 模型在四个数据集上实现了解释性设计方法中的最新水平准确率，并通过选择更少且更具信息的概念生成更简洁的解释。这些进展使模型能够实现更可靠、更具临床意义的结果，增强了模型的可信度，支持更安全的医疗 AI 部署。
引用
@article{arxiv.2506.16742,
title = {Uncertainty-Aware Information Pursuit for Interpretable and Reliable Medical Image Analysis},
author = {Md Nahiduzzaman and Steven Korevaar and Zongyuan Ge and Feng Xia and Alireza Bab-Hadiashar and Ruwan Tennakoon},
journal= {arXiv preprint arXiv:2506.16742},
year = {2026}
}
备注
Accepted to IEEE Transactions on Medical Imaging (IEEE TMI 2025)