基于似然的生成模型中的输入复杂度与分布外检测
机器学习
2020-01-20 v3 机器学习
摘要
基于似然的生成模型是一种有前景的资源，可用于检测可能损害机器学习系统鲁棒性或可靠性的分布外（OOD）输入。然而，已有研究表明，由此类模型导出的似然在检测某些与训练数据显著不同的输入类型时存在问题。在本文中，我们提出该问题源于输入复杂度在生成模型似然中的过度影响。我们报告了一组支持该假设的实验，并利用输入复杂度的估计来推导一种高效且无参数的 OOD 分数，该分数可视为一种似然比，类似于贝叶斯模型比较。我们发现，在广泛的数据集、模型、模型规模和复杂度估计下，该分数的表现与现有 OOD 检测方法相当甚至更优。
引用
@article{arxiv.1909.11480,
title = {Input complexity and out-of-distribution detection with likelihood-based generative models},
author = {Joan Serrà and David Álvarez and Vicenç Gómez and Olga Slizovskaia and José F. Núñez and Jordi Luque},
journal= {arXiv preprint arXiv:1909.11480},
year = {2020}
}
备注
Accepted for ICLR2020