用于分布外检测的核主成分分析
机器学习
2025-01-06 v3 机器学习
摘要
分布外 (OoD) 检测对于深度神经网络 (DNN) 的可靠性至关重要。现有工作表明，直接对 DNN 特征应用主成分分析 (PCA) 在从分布内 (InD) 数据中检测 OoD 数据方面存在不足。PCA 的失败表明， residing 在 OoD 和 InD 中的网络特征无法通过在简单的线性子空间中进行投影而得到良好分离，而这可以通过适当的非线性映射来解决。在本工作中，我们利用核主成分分析 (KPCA) 框架进行 OoD 检测，并寻求合适的非线性核，以增强由主成分张成的子空间中 InD 和 OoD 数据之间的可分离性。此外，采用了由专用的任务特定核诱导的显式特征映射，以便能够高效地获得大规模数据中新测试样本的 KPCA 重构误差。在多个 OoD 数据集和网络结构上的广泛理论和实证结果验证了我们的 KPCA 检测器在效率和效能方面的优越性，并达到了最先进的检测性能。
引用
@article{arxiv.2402.02949,
title = {Kernel PCA for Out-of-Distribution Detection},
author = {Kun Fang and Qinghua Tao and Kexin Lv and Mingzhen He and Xiaolin Huang and Jie Yang},
journal= {arXiv preprint arXiv:2402.02949},
year = {2025}
}
备注
Accepted by NeurIPS 2024