WeiPer：利用类别投影的权重扰动进行分布外检测
机器学习
2024-05-29 v2
摘要
图像数据上分布外（OOD）检测的最新进展表明，利用模型自身的类别判别能力，预训练的神经网络分类器能够很好地区分分布内（ID）数据和分布外数据。已有方法被提出，它们要么直接使用 logit 信息，要么处理模型的倒数第二层激活。通过“WeiPer”，我们在最后的全连接层中引入了类别投影的扰动，这为输入创建了更丰富的表示。我们证明，这个简单的技巧可以提高多种方法的分布外检测性能，并额外提出了一种基于距离的方法，该方法利用了增强的 WeiPer 空间的特性。我们在 OpenOOD 框架的多个基准测试中取得了最先进的分布外检测结果，尤其是在分布外样本靠近训练集分布的困难设置下，效果尤为显著。我们用理论动机和实证观察来支持我们的发现，并进行了广泛的消融研究，以深入探究 WeiPer 为何有效。
引用
@article{arxiv.2405.17164,
title = {WeiPer: OOD Detection using Weight Perturbations of Class Projections},
author = {Maximilian Granz and Manuel Heurich and Tim Landgraf},
journal= {arXiv preprint arXiv:2405.17164},
year = {2024}
}