中文

EPA: 受神经坍缩启发的鲁棒分布外检测器

机器学习 2024-01-04 v1 密码学与安全

摘要

分布外 (OOD) 检测在确保神经网络安全性方面起着至关重要的作用。现有工作利用分布内 (ID) 样本在特征空间中形成子空间这一事实,取得了最先进的 (SOTA) 性能。然而,ID 子空间的综合特性仍未得到充分探索。最近,神经坍缩 (NC\mathcal{NC}) 的发现揭示了 ID 子空间的新性质。利用 NC\mathcal{NC} 的洞见,我们观察到特征与 ID 特征子空间之间的主角为衡量 OOD 的可能性提供了一种优越的表示。基于这一观察,我们提出了一种新颖的 NC\mathcal{NC} 启发的 OOD 评分函数,名为熵增强主角 (EPA),它整合了 ID 子空间的全局特性及其内部属性。我们通过实验将 EPA 与各种 SOTA 方法进行比较,验证了其在不同网络架构和 OOD 数据集上的优越性能和鲁棒性。

关键词

引用

@article{arxiv.2401.01710,
  title  = {EPA: Neural Collapse Inspired Robust Out-of-Distribution Detector},
  author = {Jiawei Zhang and Yufan Chen and Cheng Jin and Lei Zhu and Yuantao Gu},
  journal= {arXiv preprint arXiv:2401.01710},
  year   = {2024}
}

备注

Accepted by ICASSP 2024