用于分布外检测的状态密度估计
机器学习
2020-06-24 v2 机器学习
摘要
或许令人惊讶的是，近期研究表明概率模型似然对分布外（OOD）检测缺乏特异性，且常常对 OOD 数据赋予比分布内数据更高的似然。为改善此问题，我们提出 DoSE，即状态密度估计器（density of states estimator）。借鉴统计物理中的“状态密度”概念，DoSE 决策规则避免直接比较模型概率，而是利用“模型概率的概率”，或实际上任意合理统计量的频率。该频率使用非参数密度估计器（如 KDE 和单类 SVM）计算，用以衡量给定训练数据下各模型统计量的典型性，并由此将典型性低的测试点标记为异常。与许多其他方法不同，DoSE 既不需要标注数据，也不需要 OOD 样本。DoSE 是模块化的，可轻易应用于任何已训练好的现有模型。我们在先前建立的“困难”基准上展示了 DoSE 相对于其他无监督 OOD 检测器的最先进性能。
引用
@article{arxiv.2006.09273,
title = {Density of States Estimation for Out-of-Distribution Detection},
author = {Warren R. Morningstar and Cusuh Ham and Andrew G. Gallagher and Balaji Lakshminarayanan and Alexander A. Alemi and Joshua V. Dillon},
journal= {arXiv preprint arXiv:2006.09273},
year = {2020}
}
备注
Submitted to NeurIPS. Corrected footnote from: "34th Conference on Neural Information Processing Systems (NeurIPS 2020), Vancouver, Canada" to "Preprint. Under review."