EPA: 受神经坍缩启发的鲁棒分布外检测器
机器学习
2024-01-04 v1 密码学与安全
摘要
分布外 (OOD) 检测在确保神经网络安全性方面起着至关重要的作用。现有工作利用分布内 (ID) 样本在特征空间中形成子空间这一事实,取得了最先进的 (SOTA) 性能。然而,ID 子空间的综合特性仍未得到充分探索。最近,神经坍缩 () 的发现揭示了 ID 子空间的新性质。利用 的洞见,我们观察到特征与 ID 特征子空间之间的主角为衡量 OOD 的可能性提供了一种优越的表示。基于这一观察,我们提出了一种新颖的 启发的 OOD 评分函数,名为熵增强主角 (EPA),它整合了 ID 子空间的全局特性及其内部属性。我们通过实验将 EPA 与各种 SOTA 方法进行比较,验证了其在不同网络架构和 OOD 数据集上的优越性能和鲁棒性。
引用
@article{arxiv.2401.01710,
title = {EPA: Neural Collapse Inspired Robust Out-of-Distribution Detector},
author = {Jiawei Zhang and Yufan Chen and Cheng Jin and Lei Zhu and Yuantao Gu},
journal= {arXiv preprint arXiv:2401.01710},
year = {2024}
}
备注
Accepted by ICASSP 2024