NECO：基于神经坍缩的分布外检测
机器学习
2024-02-28 v3 人工智能
计算机视觉与模式识别
机器学习
摘要
由于模型过度自信且往往未意识到自身的认知局限，检测分布外（OOD）数据成为机器学习中的关键挑战。我们假设，影响损失收敛后训练的分布内数据的“神经坍缩”现象，同样会影响 OOD 数据。为利用这一相互作用，我们提出 NECO，一种新颖的基于事后处理的 OOD 检测方法，它利用“神经坍缩”与主成分空间的几何性质来识别 OOD 数据。我们大量的实验表明，NECO 在小型与大型 OOD 检测任务上均取得了最先进（SOTA）结果，并在不同网络架构间展现出强大的泛化能力。此外，我们为该方法在 OOD 检测中的有效性提供了理论解释。代码见 https://gitlab.com/drti/neco
引用
@article{arxiv.2310.06823,
title = {NECO: NEural Collapse Based Out-of-distribution detection},
author = {Mouïn Ben Ammar and Nacim Belkhir and Sebastian Popescu and Antoine Manzanera and Gianni Franchi},
journal= {arXiv preprint arXiv:2310.06823},
year = {2024}
}
备注
Accepted to ICLR2024