面向鲁棒外分布检测的锐度感知几何防御
机器学习
2025-08-26 v1
摘要
外分布（OOD）检测确保模型部署的安全和可靠性。当代OOD算法使用几何投影可检测来自干净内分布（ID）样本的OOD或对抗样本。然而，这种设置将对抗ID样本视为OOD，导致错误的OOD预测。针对在ID和OOD数据下受攻击的OOD检测现有研究甚少。在本文中，我们发展了一种鲁棒OOD检测方法，用于区分对抗ID样本和OOD样本。对抗训练创建的锐利损失景观阻碍模型收敛，影响ODD得分计算的潜在嵌入质量。因此，我们引入了锐度感知几何防御（SaGD）框架，以平滑投影潜在几何中粗糙的对抗损失景观。增强的几何嵌入收敛性使我们能够准确地表征ID数据，从而提高对抗攻击下的OOD检测。我们在对抗训练中使用基于Jitter的扰动来扩展对未知攻击的防御能力。我们的SaGD框架在区分CIFAR-100和六个其他OOD数据集的情况下，在各种攻击下显著提高了FPR和AUC，超过了当前最先进的防御方法。我们进一步检查了在各种对抗训练水平下的扰动效应，揭示了锐利损失景观与对抗OOD检测之间的关系。
引用
@article{arxiv.2508.17174,
title = {Sharpness-Aware Geometric Defense for Robust Out-Of-Distribution Detection},
author = {Jeng-Lin Li and Ming-Ching Chang and Wei-Chao Chen},
journal= {arXiv preprint arXiv:2508.17174},
year = {2025}
}
备注
under review