如何克服分布外检测中的维数灾难？
机器学习
2023-12-25 v1
摘要
部署在开放环境中的机器学习模型可能会受到来自未知类别的分布外 (OOD) 数据的挑战。最近的 OOD 检测进展依赖于距离度量来区分那些相对远离分布内 (ID) 数据的样本。尽管前景广阔，但基于距离的方法可能会受到维数灾难问题的影响，这限制了其在高维特征空间中的有效性。为了应对这一问题，我们提出了一种用于 OOD 检测的新框架：子空间最近邻 (SNN)。在训练过程中，我们的方法利用最相关的维度子集（即子空间）对模型及其特征表示进行正则化。子空间学习产生了 ID 数据和 OOD 数据之间高度可区分的距离度量。我们提供了全面的实验和消融研究以验证 SNN 的有效性。与当前最佳的基于距离的方法相比，SNN 在 CIFAR-100 基准测试上将平均 FPR95 降低了 15.96%。
引用
@article{arxiv.2312.14452,
title = {How to Overcome Curse-of-Dimensionality for Out-of-Distribution Detection?},
author = {Soumya Suvra Ghosal and Yiyou Sun and Yixuan Li},
journal= {arXiv preprint arXiv:2312.14452},
year = {2023}
}
备注
AAAI 2024