解密后验离散分布检测器的对抗鲁棒性定义
密码学与安全
2025-01-30 v5 计算机视觉与模式识别
摘要
检测离散分布(OD)输入对于安全地在现实场景中部署深度学习模型至关重要。近年来，已开发出众多OD检测器，甚至标准化了基准测试，即OpenOOD。后验检测器的数量正在迅速增长。它们表明可保护预训练分类器免受自然分布偏移，并声称已准备就绪应用于现实场景。然而，大多数研究忽略了其在处理对抗样本(AdEx)方面的有效性。在OD检测器包含AdEx的实验中，缺乏统一的AdEx参数使其难以准确评估OD检测器的性能。本文针对各种规避攻击，考察了16种后验检测器的对抗鲁棒性。还讨论了一套帮助提升对抗鲁棒性的OD检测器对抗防御路线图。我们认为，应将级别1(统一数据集上的AdEx)添加到任何OD检测器中以查看其局限性。我们为维护来自对抗机器学习(AML)视角的完整性，添加了路线图中的最后一级别(针对自适应攻击的防御)，但我们并不认为这是OD检测器的最终目标。
引用
@article{arxiv.2406.15104,
title = {Deciphering the Definition of Adversarial Robustness for post-hoc OOD Detectors},
author = {Peter Lorenz and Mario Fernandez and Jens Müller and Ullrich Köthe},
journal= {arXiv preprint arXiv:2406.15104},
year = {2025}
}
备注
accepted at ICML workshop 2024