面向神经网络的鲁棒分布外检测
机器学习
2021-12-10 v6 机器学习
摘要
检测分布外（OOD）输入对于在现实世界中安全部署深度学习模型至关重要。现有的 OOD 样本检测方法在良性分布内和分布外样本上评估时表现良好。然而，在本文中，我们表明现有的检测机制在评估带有极小对抗扰动且语义未变的分布内和分布外输入时可能极其脆弱。形式上，我们广泛研究了常见 OOD 检测方法上的鲁棒分布外检测问题，并表明最先进的 OOD 检测器可以通过向分布内和分布外输入添加小扰动而被轻易欺骗。为应对这些威胁，我们提出了一种称为 ALOE 的有效算法，其通过将模型暴露于对抗构造的内点样本和外点样本来进行鲁棒训练。我们的方法可以灵活地与现有方法结合，并使其具备鲁棒性。在常用基准数据集上，我们表明 ALOE 大幅提升了最先进 OOD 检测的鲁棒性，在 CIFAR-10 上 AUROC 提升 58.4%，在 CIFAR-100 上提升 46.59%。
引用
@article{arxiv.2003.09711,
title = {Robust Out-of-distribution Detection for Neural Networks},
author = {Jiefeng Chen and Yixuan Li and Xi Wu and Yingyu Liang and Somesh Jha},
journal= {arXiv preprint arXiv:2003.09711},
year = {2021}
}
备注
Paper accepted by Workshop on Adversarial Machine Learning and Beyond at AAAI 2022