基于能量模型的分布外检测研究
机器学习
2021-07-20 v1
摘要
若干密度估计方法已被证明无法通过为异常数据分配更高的似然值来检测分布外(OOD)样本。能量模型(EBMs)是灵活的、未归一化的密度模型,似乎能够改善这一失效模式。在本工作中,我们提供了一项广泛的研究,考察使用不同方法训练的EBM在表格与图像数据上的OOD检测,发现EBM并未提供一致的优势。我们假设,尽管EBM具有类似于标准化流(Normalizing Flows)的判别结构,但其并未学习到语义特征。为验证该假设,我们展示了监督与架构限制能够独立于训练方法改善EBM的OOD检测。
引用
@article{arxiv.2107.08785,
title = {On Out-of-distribution Detection with Energy-based Models},
author = {Sven Elflein and Bertrand Charpentier and Daniel Zügner and Stephan Günnemann},
journal= {arXiv preprint arXiv:2107.08785},
year = {2021}
}
备注
Accepted to ICML 2021 Workshop on Uncertainty & Robustness in Deep Learning