通过内部过激活分析防御物理可实现的对抗攻击
计算机视觉与模式识别
2025-09-10 v2 人工智能
摘要
本工作提出 Z-Mask,一种鲁棒且有效的策略,用于提升卷积网络针对物理可实现的对抗攻击的对抗鲁棒性。该防御基于对内部网络特征进行特定的 Z 分数分析,以检测并掩蔽输入图像中对应于对抗物体的像素。为此,在浅层与深层中考察空间连续激活,以提出潜在的对抗区域。随后通过多阈值机制聚合这些提议。Z-Mask 的有效性通过在一组语义分割与物体检测模型上开展的大量实验进行评估。评估既使用了添加至输入图像的数字补丁,也使用了置于真实世界中的打印补丁。所得结果证实,Z-Mask 在受攻击网络检测准确率与整体性能方面均优于当前最优(state-of-the-art)方法。附加实验表明 Z-Mask 对可能的防御感知攻击同样具有鲁棒性。
引用
@article{arxiv.2203.07341,
title = {Defending From Physically-Realizable Adversarial Attacks Through Internal Over-Activation Analysis},
author = {Giulio Rossolini and Federico Nesti and Fabio Brau and Alessandro Biondi and Giorgio Buttazzo},
journal= {arXiv preprint arXiv:2203.07341},
year = {2025}
}