中文

当归一化产生幻觉:AI 驱动的全切片图像处理中的未见风险

计算机视觉与模式识别 2025-12-09 v1 人工智能

摘要

全切片图像(WSI)归一化仍然是计算病理学中一项关键的预处理步骤。这些模型越来越多地由深度学习驱动,它们从训练样本中学习近似数据分布。这通常导致输出趋向于平均值,可能掩盖具有诊断重要性的特征。更关键的是,它们可能引入幻觉内容——那些在原始组织中不存在但看起来逼真的伪影,对下游分析构成严重威胁。这些幻觉几乎无法通过视觉检测,当前评估实践也常常忽视它们。在本工作中,我们证明幻觉风险是真实存在且被低估的。虽然许多方法在公共数据集上表现良好,但我们观察到当这些相同模型在真实临床数据上重新训练并评估时,幻觉出现了令人担忧的频繁发生。为解决这一问题,我们提出了一种新颖的图像比较度量,用于自动检测归一化输出中的幻觉。使用该度量,我们系统地评估了在真实数据上重新训练的多个被广泛引用的归一化方法,揭示了传统指标无法捕捉到的显著不一致性和失败。我们的研究结果强调了在临床部署中需要更鲁棒、更可解释的归一化技术以及更严格的验证协议。

关键词

引用

@article{arxiv.2512.07426,
  title  = {When normalization hallucinates: unseen risks in AI-powered whole slide image processing},
  author = {Karel Moens and Matthew B. Blaschko and Tinne Tuytelaars and Bart Diricx and Jonas De Vylder and Mustafa Yousif},
  journal= {arXiv preprint arXiv:2512.07426},
  year   = {2025}
}

备注

4 pages, accepted for oral presentation at SPIE Medical Imaging, 2026