S2AP：基于得分空间锐度最小化的对抗性剪枝
计算机视觉与模式识别
2025-10-22 v1 人工智能
机器学习
摘要
对抗性剪枝方法已成为在保持对抗攻击鲁棒性的同时压缩神经网络的强大工具。这类方法通常遵循三步流程：(i) 预训练鲁棒模型，(ii) 为权重选择二进制掩码，(iii) 微调被剪枝后的模型。为选择二进制掩码，这些方法通过赋予每个权重重要性得分来最小化鲁棒损失，然后保留得分最高的权重。然而，这种得分空间优化可能导致鲁棒损失景观中的尖锐局部极小值，从而导致不稳定的掩码选择，降低对抗性剪枝方法的鲁棒性。为克服这一问题，本文提出一种新颖的插式方法，用于对抗性剪枝，称为 Score-space Sharpness-aware Adversarial Pruning (S2AP)。通过该方法，我们引入得分空间锐度最小化的概念，该概念在掩码搜索期间通过扰动重要性得分并最小化相应的鲁棒损失来实现。广泛的实验在各种数据集、模型和稀疏度水平下表明，S2AP 有效地最小化了得分空间中的锐度，稳定了掩码选择，从而最终提高了对抗性剪枝方法的鲁棒性。
引用
@article{arxiv.2510.18381,
title = {S2AP: Score-space Sharpness Minimization for Adversarial Pruning},
author = {Giorgio Piras and Qi Zhao and Fabio Brau and Maura Pintor and Christian Wressnegger and Battista Biggio},
journal= {arXiv preprint arXiv:2510.18381},
year = {2025}
}