论文提案：将可解释性与不确定性估计集成于医学AI

不确定性是医学实践中的根本性挑战，但当前医学AI系统未能以符合临床推理方式对不确定性进行显式量化或有效沟通。现有可解释AI（XAI）工作侧重于解释模型预测，却未能捕捉这些预测的置信度或可靠性；相反，不确定性估计（UE）技术提供置信度度量，却缺乏直观的解释。这种两者之间的断裂限制了AI在医疗领域的应用。为填补这一差距，本文提出可解释不确定性估计（XUE），以整合可解释性与不确定性量化，旨在提升医学AI的信任度与可用性。我们系统性地将医学不确定性映射到AI不确定性概念，识别实施XUE的关键挑战。我们概述了推进XUE的技术方向，包括多模态不确定性量化、模型无关的可视化技术，以及不确定性感知的决策支持系统。最后，我们提出确保有效实现XUE的指导原则。我们的分析凸显了AI系统不仅需生成可靠预测，还需以临床可理解的方式表达置信度水平的必要性。这一工作通过搭建可解释性与不确定性之间的桥梁，为开发可信赖的医学AI铺平道路，为符合实际临床复杂性的AI系统提供了可能。