通过频率正则化生成模型进行分布外检测
机器学习
2022-08-22 v1 计算机视觉与模式识别
摘要
现代深度生成模型会对训练分布之外的输入赋予高似然，对开放世界部署中的模型构成威胁。尽管大量研究关注定义新的测试时OOD不确定性度量，这些方法并未从根本上改变深度生成模型在训练中的正则化与优化方式。特别地，生成模型被证明过度依赖背景信息来估计似然。为解决该问题，我们提出一种用于OOD检测的新型频率正则化学习FRL框架，其将高频信息纳入训练并引导模型关注语义相关特征。FRL有效提升了多种生成架构的性能，包括变分自编码器、GLOW和PixelCNN++。在一个新的大规模评测任务上，FRL取得了最先进的性能，以10.7%（AUROC）的优势超越强基线Likelihood Regret，同时实现了147倍的推理加速。大量消融实验表明，FRL在保持图像生成质量的同时提升了OOD检测性能。代码见https://github.com/mu-cai/FRL。
引用
@article{arxiv.2208.09083,
title = {Out-of-distribution Detection via Frequency-regularized Generative Models},
author = {Mu Cai and Yixuan Li},
journal= {arXiv preprint arXiv:2208.09083},
year = {2022}
}
备注
Paper accepted as a spotlight in WACV2023