DOI：基于深度生成模型的散度分布外指标
机器学习
2021-08-13 v1
摘要
为确保分类结果的鲁棒与可靠，近期提出了基于深度生成模型的 OoD（分布外）指标，并证明在小型数据集上表现良好。本文对现有 OoD 指标进行了首个大规模基准收集（包含 92 个数据集对，比以往大一个数量级），观察到无一表现良好。因此我们主张，评估 OoD 指标必须进行大规模基准收集。我们提出了一个新颖的理论框架 DOI，用于深度生成模型中基于散度（而非传统基于似然）的分布外指标。遵循该框架，我们进一步提出一种简单有效的 OoD 检测算法：单次微调（Single-shot Fine-tune）。它在 AUROC 上以 5~8 显著优于过往工作，且性能接近最优。近来，似然准则被证明在检测 OoD 中无效。单次微调提出了一种新颖的微调准则来检测 OoD，即通过对训练良好模型在测试样本上微调后其似然是否提升来判断。微调准则是一个清晰且易遵循的准则，将引领 OoD 领域进入新阶段。
引用
@article{arxiv.2108.05509,
title = {DOI: Divergence-based Out-of-Distribution Indicators via Deep Generative Models},
author = {Wenxiao Chen and Xiaohui Nie and Mingliang Li and Dan Pei},
journal= {arXiv preprint arXiv:2108.05509},
year = {2021}
}