不确定性量化是否是学习性推迟的可行替代方案？
计算机视觉与模式识别
2025-08-27 v2
摘要
人工智能(AI)有望显著改善患者护理。然而，AI并非完善，需通过人机协作确保其安全实施。AI安全的一个方面是模型在面对可能误分类的情况时能够将决策推迟给人类专家。近期研究聚焦于通过优化代理损失函数来学习推迟决策，该损失函数在预测类别标签与推迟决策之间寻找最佳权衡。然而，在临床转化过程中，模型常面临数据漂移等挑战。不确定性量化方法旨在估计模型对其预测置信度。然而，这些方法也可作为一种无需依赖特定训练分布的推迟策略。我们假设，专为不确定性量化而开发的模型，对分布外(Out-of-Distribution, OOD)输入的鲁棒性优于在监督式训练下学习推迟的模型。为检验此假设，我们在大型眼底图像数据集上构建了广泛的评估研究，考察学习性推迟模型与既定不确定性量化方法的表现，评估其在分布内外情况下的性能。具体而言，我们评估其在从眼底图像中准确分类青光眼的能力，同时对高错误概率的病例进行推迟决策。我们发现，不确定性量化方法可能是AI推迟的一个有前景的选择。
引用
@article{arxiv.2508.02319,
title = {Is Uncertainty Quantification a Viable Alternative to Learned Deferral?},
author = {Anna M. Wundram and Christian F. Baumgartner},
journal= {arXiv preprint arXiv:2508.02319},
year = {2025}
}
备注
Accepted as an oral presentation at MICCAI UNSURE 2025