分布外数据：对抗样本的相识——一项综述
机器学习
2024-04-09 v1
摘要
部署在现实世界应用中的深度神经网络 (DNN) 可能会遇到分布外 (OOD) 数据和对抗样本。这些代表了不同形式的分布偏移，会显著影响 DNN 的可靠性和鲁棒性。传统上，研究将 OOD 检测和对抗鲁棒性作为独立的挑战来处理。本综述聚焦于这两个领域的交叉点，考察研究界如何将二者结合起来研究。因此，我们确定了两个关键研究方向：鲁棒 OOD 检测和统一鲁棒性。鲁棒 OOD 检测旨在区分分布内 (ID) 数据和 OOD 数据，即使它们被对抗操纵以欺骗 OOD 检测器。统一鲁棒性则寻求单一方法使 DNN 同时对对抗攻击和 OOD 输入具有鲁棒性。据此，我们首先基于分布偏移的概念建立了一个分类法。该框架阐明了鲁棒 OOD 检测和统一鲁棒性与解决分布偏移的其他研究领域（如 OOD 检测、开集识别和异常检测）之间的关系。随后，我们回顾了关于鲁棒 OOD 检测和统一鲁棒性的现有工作。最后，我们强调了现有工作的局限性，并提出了在统一框架内探索对抗和 OOD 输入的有前景的研究方向。
引用
@article{arxiv.2404.05219,
title = {Out-of-Distribution Data: An Acquaintance of Adversarial Examples -- A Survey},
author = {Naveen Karunanayake and Ravin Gunawardena and Suranga Seneviratne and Sanjay Chawla},
journal= {arXiv preprint arXiv:2404.05219},
year = {2024}
}