基于协同平滑的鲁棒异常分布检测框架
计算机视觉与模式识别
2026-05-12 v1 人工智能
摘要
可靠的异常分布(OD)检测是机器学习系统安全部署的关键需求。尽管近期取得的进展令人满意，但最先进的OD检测器对对抗性攻击高度敏感，这削弱了其在自动化系统中的可信度。为此，我们将中位数平滑应用于OD检测基准分数，以平衡干净样本和对抗样本的准确性。我们的关键洞察是，为中位数平滑生成的噪声样本可以被重新用于量化基准得分的局部不稳定性。我们观察到，在扰动下，OD样本表现出更高的不稳定性。基于此，我们提出了ROSS（Robust Out-of-Distribution detection via Synergistic Smoothing），一种新型且鲁棒的后处理OD检测器，利用基准得分的不稳定性进一步区分分布内(ID)和OD样本。ROSS实现了对称鲁棒性，在抵御既减小又放大得分的攻击时均表现出色，与先前工作不同。这一对称防御实现了最先进的鲁棒性，相较于先前方法可提升最高达40个AUROC分数。我们在CIFAR-10、CIFAR-100和ImageNet上的大规模实验中展示了ROSS的有效性。代码已公开：https://github.com/Abdu-Hekal/ROSS。
引用
@article{arxiv.2605.08191,
title = {A Robust Out-of-Distribution Detection Framework via Synergistic Smoothing},
author = {Maria Stoica and Abdelrahman Hekal and Alessio Lomuscio},
journal= {arXiv preprint arXiv:2605.08191},
year = {2026}
}
备注
Accepted to CVPR Findings 2026