异常分布检测方法回答错误的问题
机器学习
2025-07-03 v1 机器学习
摘要
为检测分布偏移并提高模型安全性，许多异常分布（OOD）检测方法依赖于基于训练于准分布数据的监督模型的预测不确定性或特征。在本文中，我们对这一流行的 OOD 检测程序族进行了批判性再检查，我们认为这些方法在 OOD 检测方面回答了错误的问题。由于仅在准分布类别上训练的分类器不太可能识别 OOD 数据；例如，猫狗分类器可能对包含区分猫狗特征的飞机高度错误地分类，尽管其整体外观与猫狗毫无相似性。我们发现，基于不确定性的方法错误地将高不确定性与 OOD 混淆，而基于特征的方法错误地将远离特征空间距离与 OOD 混淆。我们展示了这些病态在 OOD 检测中表现为不可约错误，并识别了这些方法在常见情景下的无效性。此外，改进 OOD 检测的干预措施，如特征-逻辑混合方法、模型和数据规模的扩展、表征认识不确定性以及异常暴露，也未能解决这种根本性的目标错位。我们还考虑了无监督密度估计和生成模型用于 OOD 检测，我们展示了这些方法各自也存在根本性的局限性。
引用
@article{arxiv.2507.01831,
title = {Out-of-Distribution Detection Methods Answer the Wrong Questions},
author = {Yucen Lily Li and Daohan Lu and Polina Kirichenko and Shikai Qiu and Tim G. J. Rudner and C. Bayan Bruss and Andrew Gordon Wilson},
journal= {arXiv preprint arXiv:2507.01831},
year = {2025}
}
备注
Extended version of ICML 2025 paper