基于快速决策边界的分布外检测器
机器学习
2024-06-05 v2 图像与视频处理
摘要
高效且有效的分布外(OOD)检测对于 AI 系统的安全部署至关重要。现有的特征空间方法虽然有效,但由于依赖基于训练特征构建的辅助模型,往往会产生显著的计算开销。在本文中,我们提出了一种无需使用辅助模型但仍能利用特征空间中丰富信息的计算高效 OOD 检测器。具体而言,我们根据样本特征到决策边界的距离来检测 OOD 样本。为了最小化计算成本,我们引入了一种高效的闭式估计方法,并从解析上证明了该估计是距离的紧密下界。基于我们的估计,我们发现分布内(ID)特征往往比 OOD 特征距离决策边界更远。此外,当在相对于训练特征均值的同等偏差水平上进行比较时,ID 和 OOD 样本的分离效果更好。通过根据特征相对于均值的偏差对到决策边界的距离进行正则化,我们开发了一种无超参数、无辅助模型的 OOD 检测器。大量实验表明,我们的方法在推理延迟开销可忽略不计的情况下,其有效性匹配或超越了最先进(SOTA)的方法。总体而言,我们的方法显著改善了 OOD 检测中的效率 - 有效性权衡。代码地址:https://github.com/litianliu/fDBD-OOD。
引用
@article{arxiv.2312.11536,
title = {Fast Decision Boundary based Out-of-Distribution Detector},
author = {Litian Liu and Yao Qin},
journal= {arXiv preprint arXiv:2312.11536},
year = {2024}
}
备注
ICML 2024 main conference paper