具有不确定性的特征统计有助于对抗鲁棒性
机器学习
2025-06-10 v2
摘要
尽管深度神经网络(DNNs)取得了显著成功,但对抗性攻击所带来的安全威胁对 DNN 的可靠性构成了重大挑战。本文从理论与实验两方面发现了一个在以往工作中被忽视的普遍现象:对抗性攻击倾向于改变特征统计的分布。受此发现启发,并借助不确定性感知随机方法在高效构建鲁棒模型方面的优势,我们提出了一种由不确定性驱动的特征统计调整模块以增强鲁棒性,称为具有不确定性的特征统计(Feature Statistics with Uncertainty, FSU)。该模块从多元高斯分布中随机重采样各样本通道级的特征均值与标准差,从而有助于重构受扰动的样本并校准偏移的分布。这种校准恢复了数据用于分类的部分领域特征,因而缓解了扰动的影响,削弱了攻击欺骗模型的能力。所提出的 FSU 模块在训练、攻击、预测与微调中均具有通用适用性,以极小的额外时间开销展现出令人印象深刻的鲁棒性提升能力。例如,通过使用 FSU 对成熟模型进行微调,最先进的方法在基准数据集上针对强大的 AA 与 CW 攻击可分别获得高达 17.13% 与 34.82% 的鲁棒性提升。
引用
@article{arxiv.2503.20583,
title = {Feature Statistics with Uncertainty Help Adversarial Robustness},
author = {Ran Wang and Xinlei Zhou and Meng Hu and Rihao Li and Wenhui Wu and Yuheng Jia},
journal= {arXiv preprint arXiv:2503.20583},
year = {2025}
}