层次化 VAE 知晓其所不知
机器学习
2022-01-19 v7 人工智能
计算机视觉与模式识别
机器学习
摘要
深度生成模型已被证明是最先进的密度估计器。然而，近期研究发现它们常对训练分布之外的数据赋予更高的似然值。这种看似矛盾的行为引发了人们对所得密度估计质量的担忧。在层次化变分自编码器背景下，我们提供证据解释该行为源于分布外数据具有分布内的底层特征。我们认为这是预期且可取的行为。基于该洞见，我们开发了一种快速、可扩展且完全无监督的似然比分数用于 OOD 检测，其要求数据在所有特征层级均为分布内。我们在大量数据与模型组合上对该方法进行了基准测试，并在分布外检测上取得了最先进的结果。
引用
@article{arxiv.2102.08248,
title = {Hierarchical VAEs Know What They Don't Know},
author = {Jakob D. Havtorn and Jes Frellsen and Søren Hauberg and Lars Maaløe},
journal= {arXiv preprint arXiv:2102.08248},
year = {2022}
}
备注
Appeared in Proceedings of the 38th International Conference on Machine Learning (ICML 2021). 18 pages, source code available at https://github.com/JakobHavtorn/hvae-oodd, https://github.com/vlievin/biva-pytorch and https://github.com/larsmaaloee/BIVA