通过专家引导的不确定性建模提升医学 AI 的可靠性
机器学习
2026-04-03 v1
摘要
人工智能 (AI) 系统加速医疗工作流程并提高诊断准确性，作为第二意见系统发挥作用。然而，AI 错误的不可预测性在医疗环境中构成重大挑战，因错误可能造成严重后果。广泛采用的保障措施是将预测与不确定性估计配对，使人类专家能够聚焦于高风险案例，同时简化常规验证。当前的不确定性估计方法仍受限，尤其是在量化来自数据模糊性和噪声的 aleatoric 不确定性方面。为此，我们提出了一种新方法，利用专家响应的不一致性为训练机器学习模型的目标。这些目标与标准数据标签一起用于分别估计 law of total variance 给定的两个不确定性分量，通过 two-ensemble 方法实现，以及其轻量级变体。我们在二元图像分类、二元和多类图像分割以及多选题回答上对方法进行了验证。我们的实验表明，纳入专家知识可根据任务不同提高不确定性估计质量，提升幅度为 9\% 至 50\%，使这一信息来源对构建面向医疗应用的风险感知 AI 系统具有不可或缺的价值。
引用
@article{arxiv.2604.01898,
title = {Enhancing the Reliability of Medical AI through Expert-guided Uncertainty Modeling},
author = {Aleksei Khalin and Ekaterina Zaychenkova and Aleksandr Yugay and Andrey Goncharov and Sergey Korchagin and Alexey Zaytsev and Egor Ershov},
journal= {arXiv preprint arXiv:2604.01898},
year = {2026}
}