中文

面向异常分布检测的Logit比例放大

机器学习 2025-05-23 v2 人工智能 计算机视觉与模式识别

摘要

在开放世界环境中部署机器学习和AI模型,关键在于能够准确检测异常分布 (OOD) 数据,这类数据与模型训练所使用的分布差异巨大。当前的OD检测方法常需进一步训练模型,或依赖训练数据统计信息,而这些信息在实际应用中可能无法获取。此外,许多现有的OD检测方法在跨架构迁移时难以保持性能。我们的研究通过提出一种简单、后处理的方法来解决上述问题,该方法无需访问训练数据分布,保持训练好的网络完整,且在各种架构上均表现出色。我们提出的方法称为Logit比例放大 (LTS),正如名称所示,仅对logit进行比例放大,即可有效区分分布内 (ID) 和OD样本。我们在多个基准测试中测试了该方法,包括CIFAR-10、CIFAR-100、ImageNet和OpenOOD。实验覆盖3个ID数据集和14个OD数据集,以及9种模型架构。总体而言,我们展示了在不同架构上实现了最先进的性能、稳健性和适应性,为实现面向高级OD检测的通用解决方案铺平了道路。

关键词

引用

@article{arxiv.2409.01175,
  title  = {Logit Scaling for Out-of-Distribution Detection},
  author = {Andrija Djurisic and Rosanne Liu and Mladen Nikolic},
  journal= {arXiv preprint arXiv:2409.01175},
  year   = {2025}
}