医学影像中的AI安全：基于正规化流的后验离群检测
泛函分析
2025-02-25 v2
摘要
在AI驱动的医学影像中，未能检测到离群数据（OOD）会严重危及临床可靠性，可能导致关键诊断错误。当前的OOD检测方法往往需要不可行的重新训练或修改预训练模型，阻碍其在受监管的临床环境中的采用。为此，我们提出一种基于后验正规化流的方法，可无缝集成到现有预训练模型中而无需修改其权重。我们在本实验室筛选的MedOOD数据集上对该方法进行评估，该数据集旨在捕获临床相关的分布偏移；并在MedMNIST基准数据集上进行测试。我们的方法在MedOOD数据集上实现了84.61%的AUROC，超越ViM（80.65%）和MDS（80.87%），在MedMNIST数据集上达到93.8%的AUROC，超过ViM（88.08%）和ReAct（87.05%）。该方法在强大性能与后验集成能力之间的结合，使其成为临床影像工作流程的实用且有效的安全措施。该模型和构建OD数据集的代码均可公开获取，地址为 https://github.com/dlotfi/MedOODFlow。
引用
@article{arxiv.2502.11637,
title = {On the definition of "almost LUR (ALUR)" notion},
author = {Constantin Zalinescu},
journal= {arXiv preprint arXiv:2502.11637},
year = {2025}
}
备注
The paper has 16 pages an a bibliography containing 21 references. In the present version we corrected some inaccuracies and added a subnote on page 10