用于分布外检测的对数似然比
机器学习
2019-12-09 v2 机器学习
摘要
判别型神经网络在部署于非由与训练分布相同过程生成的数据上时,往往提供很少或毫无性能保证。在此类分布外(OOD)输入上,预测不仅可能出错,而且可能以高置信度出错,这限制了分类器在真实世界应用中的安全部署。一个这样的具有挑战性的应用是基于基因组序列的细菌识别,其有望实现疾病的早期检测,但需要一个能够对来自训练数据中未出现的新细菌的OOD基因组序列输出低置信度预测的模型。我们引入了一个用于OOD检测的基因组学数据集,使其他研究者能够在此重要问题上衡量进展。我们研究了基于深度生成模型的方法用于OOD检测,并观察到似然分数受到群体水平背景统计的严重影响。我们提出了一种用于深度生成模型的对数似然比方法,其有效校正了这些混杂的背景统计。我们在该基因组学数据集上将所提方法的OOD检测性能与现有方法进行了基准比较,并表明我们的方法达到了最先进的性能。我们通过表明该方法在应用于图像深度生成模型时显著改善OOD检测,证明了所提方法的通用性。
引用
@article{arxiv.1906.02845,
title = {Likelihood Ratios for Out-of-Distribution Detection},
author = {Jie Ren and Peter J. Liu and Emily Fertig and Jasper Snoek and Ryan Poplin and Mark A. DePristo and Joshua V. Dillon and Balaji Lakshminarayanan},
journal= {arXiv preprint arXiv:1906.02845},
year = {2019}
}
备注
Accepted to NeurIPS 2019