基于Shapley派生的深度学习分割临床可解释性与一致性与不确定性指标
图像与视频处理
2025-12-09 v1 计算机视觉与模式识别
机器学习
摘要
分割是识别解剖学感兴趣区域（如器官、组织和病灶）的过程，这是医学影像中计算机辅助诊断的基本任务。尽管深度学习模型在医学影像分割方面取得了显著成绩，但仍需解释性才能确保其在临床实践中的接受与集成，尽管该领域的研究注意力日益增长。我们的方法探索了使用对比度水平的Shapley值，这是一种对模型输入进行系统性扰动以评估特征重要性的技术。虽然其他研究通过识别影像输入中的有影响区域来利用梯度方法，但Shapley值提供了更广泛且符合临床实践的做法，解释了模型性能如何被公正地归因于某些影像对比度。我们使用BraTS 2024数据集，为四种MRI对比度生成了四种模型架构的Shapley值排名。从Shapley排名中提出了两个指标：模型与"临床医生"影像排名之间的一致性，以及通过跨验证折叠中Shapley排名方差量化的不确定性。在Dice>0.6的高性能案例中，结果表明与临床排名的一致性显著提升。较高的Shapley排名方差与性能下降相关（U-Net: ）。这些指标为模型可靠性提供了临床可解释的代理指标，帮助临床医生更好地理解最先进的分割模型。
引用
@article{arxiv.2512.07224,
title = {Clinical Interpretability of Deep Learning Segmentation Through Shapley-Derived Agreement and Uncertainty Metrics},
author = {Tianyi Ren and Daniel Low and Pittra Jaengprajak and Juampablo Heras Rivera and Jacob Ruzevick and Mehmet Kurt},
journal= {arXiv preprint arXiv:2512.07224},
year = {2025}
}