软标签影响深度神经网络分布外检测
机器学习
2020-07-08 v1 机器学习
摘要
软标签已成为深度神经网络泛化与模型压缩的常用输出正则化手段。然而，软标签对分布外 (OOD) 检测的影响尚未被探讨，而 OOD 检测是机器学习安全的重要课题。本研究中，我们表明软标签可决定 OOD 检测性能。具体而言，软标签如何对错误类别的输出进行正则化，可能恶化或改善 OOD 检测。基于实证结果，我们提出关于 OOD 鲁棒 DNN 的未来工作：通过软标签进行恰当的输出正则化，可在无需额外训练 OOD 样本或修改模型的同时提升分类准确率，从而构建 OOD 鲁棒 DNN。
引用
@article{arxiv.2007.03212,
title = {Soft Labeling Affects Out-of-Distribution Detection of Deep Neural Networks},
author = {Doyup Lee and Yeongjae Cheon},
journal= {arXiv preprint arXiv:2007.03212},
year = {2020}
}
备注
ICML'20 Workshop on Uncertainty and Robustness in Deep Learning