保障医学影像中的人工智能安全：基于归一化流的后验分布外检测
计算机视觉与模式识别
2026-04-17 v3
摘要
在人工智能驱动的医学影像中，未能检测到分布外（OOD）数据对临床可靠性构成严重风险，可能导致严重的诊断错误。当前的OOD检测方法通常要求对预训练模型进行不切实际的重新训练或修改，阻碍了它们在受监管的临床环境中的采用。为应对这一挑战，我们提出了一种基于后验归一化流的方法，该方法无需修改权重即可无缝集成到现有的预训练模型中。我们在内部整理的MedOOD数据集（旨在捕获临床相关的分布偏移）和MedMNIST基准上评估了该方法。所提出的方法在MedOOD上实现了84.61%的AUROC，优于ViM（80.65%）和MDS（80.87%），并在MedMNIST上达到93.8%的AUROC，超过了ViM（88.08%）和ReAct（87.05%）。这种强性能与后验集成能力的结合使我们的方法成为临床影像工作流程中实用且有效的保障措施。用于构建OOD数据集的模型和代码可在https://github.com/dlotfi/MedOODFlow公开获取。
引用
@article{arxiv.2502.11638,
title = {Safeguarding AI in Medical Imaging: Post-Hoc Out-of-Distribution Detection with Normalizing Flows},
author = {Dariush Lotfi and Mohammad-Ali Nikouei Mahani and Mohamad Koohi-Moghadam and Kyongtae Ty Bae},
journal= {arXiv preprint arXiv:2502.11638},
year = {2026}
}