NERO：基于神经元级相关性的可解释异常分布检测
计算机视觉与模式识别
2025-09-25 v2 机器学习
摘要
确保深度学习在医学影像领域的可靠性至关重要，因为诊断决策往往依赖于模型输出。分离异常分布（OOD）样本的能力已被证明是评估模型可靠性的有价值指标。在医学影像中，这尤为关键，因为识别 OOD 输入可以帮助标记可能被忽略的异常。虽然许多 OOD 检测方法依赖特征或逻辑空间表示，但近期研究表明这些方法可能未完全捕捉 OOD 的多样性。为此，我们提出一种新型 OOD 评分机制，称为 NERO，该机制利用特征层的神经元级相关性。具体而言，我们聚类每个 in-distribution（ID）类的神经元相关性以形成代表性质心，并引入相关距离度量来量化新样本与这些质心的偏离，从而增强 OOD 的可分离性。此外，我们通过整合缩放相关性于偏置项中以及结合特征范数来细化性能。我们的框架还支持可解释的 OOD 检测。在胃肠镜图像基准数据集 Kvasir 和 GastroVision 上进行实验，验证了其有效性，显著优于当前最先进的 OOD 检测方法。
引用
@article{arxiv.2506.15404,
title = {NERO: Explainable Out-of-Distribution Detection with Neuron-level Relevance},
author = {Anju Chhetri and Jari Korhonen and Prashnna Gyawali and Binod Bhattarai},
journal= {arXiv preprint arXiv:2506.15404},
year = {2025}
}