重访基于能量的分布外检测模型
计算机视觉与模式识别
2024-12-05 v1
摘要
分布外(OOD)检测是增强深度学习模型鲁棒性的重要方法,使其能够识别超出其训练分布的输入。现有的OOD检测方法通常依赖于精心构造的数据,例如特定的异常值数据集或精细的数据增强。虽然这有其合理性,但构造数据与OOD数据之间的频繁不匹配限制了模型的鲁棒性和泛化能力。针对此问题,我们引入了通过简单变换进行异常值暴露(OEST)框架,该框架通过利用“外围分布”(PD)数据来增强OOD检测。具体而言,PD数据是通过简单数据变换生成的样本,从而为手动筛选的异常值提供了一种高效的替代方案。我们采用基于能量的模型(EBM)来研究PD数据。我们认识到OOD检测中的“能量壁垒”,它表征了分布内(ID)和OOD样本之间的能量差异,从而简化了检测。在训练过程中引入PD数据以建立能量壁垒。此外,这一能量壁垒概念激发了一个有理论基础的能量壁垒损失函数,以取代经典的能量有界损失函数,从而产生了改进的范式OEST*,该范式实现了ID和OOD样本之间更有效且理论上合理的分离。我们对我们的提议进行了实证验证,跨多个基准的大量实验表明,OEST*与最先进方法相比取得了更好或相似的准确率。
引用
@article{arxiv.2412.03058,
title = {Revisiting Energy-Based Model for Out-of-Distribution Detection},
author = {Yifan Wu and Xichen Ye and Songmin Dai and Dengye Pan and Xiaoqiang Li and Weizhong Zhang and Yifan Chen},
journal= {arXiv preprint arXiv:2412.03058},
year = {2024}
}
备注
This work has been submitted to the IEEE for possible publication