基于 Kullback-Leibler 散度的流生成模型分布外检测
机器学习
2023-03-03 v5 计算机视觉与模式识别
机器学习
摘要
近期研究揭示，包括基于流的模型与变分自编码器在内的深度生成模型，可能对分布外（OOD）数据赋予比分布内（ID）数据更高的似然。然而，我们无法从模型中采样 OOD 数据。这一反直觉现象尚未得到满意解释，并为基于流模型的 OOD 检测带来障碍。本文中，我们证明定理以探究基于流模型中的 Kullback-Leibler 散度，并针对上述现象给出两种解释。基于理论分析，我们提出一种新方法 \PADmethod\ 以利用 KL 散度与表示的局部像素依赖性进行异常检测。在常用基准上的实验结果表明了方法的有效性与鲁棒性。对于群体异常检测，我们的方法在批大小为 5 的小批量下平均达到 98.1\% AUROC。相反，基于典型性测试的基线方法因在挑战性问题上失效，平均仅达 64.6\% AUROC。我们的方法还以 9.1\% AUROC 优于当前最优方法。对于点式异常检测，我们的方法平均达到 90.7\% AUROC，并以 5.2\% AUROC 优于基线。此外，我们的方法失败案例最少，且最具鲁棒性。
引用
@article{arxiv.2002.03328,
title = {Kullback-Leibler Divergence-Based Out-of-Distribution Detection with Flow-Based Generative Models},
author = {Yufeng Zhang and Jialu Pan and Wanwei Liu and Zhenbang Chen and Ji Wang and Zhiming Liu and Kenli Li and Hongmei Wei},
journal= {arXiv preprint arXiv:2002.03328},
year = {2023}
}