面向分布内兼容的离群分布检测
计算机视觉与模式识别
2022-08-30 v1 机器学习
摘要
深度神经网络尽管在区分目标分布内样本方面能力卓越,但在检测异常的离群分布数据上表现不佳。为解决这一缺陷,当前最优方案选择在辅助离群数据集上训练深度网络。基于启发式直觉,人们提出了多种针对这些辅助离群样本的训练准则。然而,我们发现这些直觉设计的离群训练准则会损害分布内学习,并最终导致性能下降。为此,我们指出了造成分布内不兼容的三大原因:矛盾梯度、虚假似然与分布偏移。基于这些新认识,我们提出了一种通过同时调整深度模型顶层设计与损失函数的新离群分布检测方法。我们的方法通过减少对分布内特征概率特性的干扰来实现分布内兼容。在多个基准上,我们的方法不仅取得了最优的离群分布检测性能,还提升了分布内准确率。
引用
@article{arxiv.2208.13433,
title = {Towards In-distribution Compatibility in Out-of-distribution Detection},
author = {Boxi Wu and Jie Jiang and Haidong Ren and Zifan Du and Wenxiao Wang and Zhifeng Li and Deng Cai and Xiaofei He and Binbin Lin and Wei Liu},
journal= {arXiv preprint arXiv:2208.13433},
year = {2022}
}