ReAct：通过修正激活值进行分布外检测
机器学习
2021-11-29 v1
摘要
分布外（OOD）检测因其在增强神经网络安全部署方面的实际重要性而备受关注。主要挑战之一是模型常常对OOD数据产生高度置信的预测，这破坏了OOD检测的基本原则，即模型只应对分布内样本具有置信度。在这项工作中，我们提出了ReAct——一种简单而有效的技术，用于减少模型对OOD数据的过度自信。我们的方法源于对神经网络内部激活值的新颖分析，该分析显示OOD分布具有高度独特的签名模式。我们的方法可以有效地泛化到不同的网络架构和不同的OOD检测分数。我们通过实验证明，ReAct在全面的基准数据集套件上取得了具有竞争力的检测性能，并为我们方法的有效性提供了理论解释。在ImageNet基准测试中，与之前的最佳方法相比，ReAct将假阳性率（FPR95）降低了25.05%。
引用
@article{arxiv.2111.12797,
title = {ReAct: Out-of-distribution Detection With Rectified Activations},
author = {Yiyou Sun and Chuan Guo and Yixuan Li},
journal= {arXiv preprint arXiv:2111.12797},
year = {2021}
}
备注
NeurIPS 2021