基于分类器头部信息特征掩码与原型对数平滑的分布外检测
计算机视觉与模式识别
2023-10-30 v1
摘要
分布外（OOD）检测在真实世界部署神经网络时至关重要。一个主要挑战是神经网络常对 OOD 数据做出过度自信的预测。在本研究中，我们提出一种有效的后处理 OOD 检测方法，基于一种新的特征掩码策略与一种新颖的对数平滑策略。特征掩码根据分类器头部中 ID 类的权重确定倒数第二层每个分布内（ID）类的重要特征，并掩码其余特征。对数平滑计算测试样本特征向量与倒数第二层所预测 ID 类原型之间的余弦相似度，并将该相似度用作对数上的自适应温度因子，以缓解网络对 OOD 数据的过度自信预测。借助这些策略，我们可减少 OOD 数据的特征激活，并扩大 ID 与 OOD 数据之间 OOD 分数的差距。在多个标准 OOD 检测基准上的大量实验证明了我们方法的有效性及其与现有方法的兼容性，我们的方法取得了新的 state-of-the-art 性能。源代码将公开发布。
引用
@article{arxiv.2310.18104,
title = {Classifier-head Informed Feature Masking and Prototype-based Logit Smoothing for Out-of-Distribution Detection},
author = {Zhuohao Sun and Yiqiao Qiu and Zhijun Tan and Weishi Zheng and Ruixuan Wang},
journal= {arXiv preprint arXiv:2310.18104},
year = {2023}
}
备注
10 pages, 7 figures