中文

剪枝对对抗鲁棒性的影响

计算机视觉与模式识别 2021-11-29 v2

摘要

剪枝是降低深度卷积网络计算成本的知名机制。然而,研究表明剪枝作为一种正则化形式,可减少过拟合并改善泛化。我们证明这类策略除计算性能与泛化之外还带来额外益处。我们的分析揭示,从卷积网络中剪枝结构(滤波器和/或层)不仅提升泛化,还增强对对抗图像(内容被修改的自然图像)的鲁棒性。此类成果之所以可能,是因为剪枝降低了网络容量并提供正则化,而这已被证明是对抗对抗图像的有效手段。相较于需要以对抗图像训练并仔细正则化的有望防御机制,我们表明仅考虑自然图像(例如标准且低成本的训练)的剪枝即可取得有竞争力的结果。我们在多种对抗攻击与架构上证实了这些发现,从而提示剪枝作为对抗对抗图像新型防御机制的潜力。

关键词

引用

@article{arxiv.2108.04890,
  title  = {On the Effect of Pruning on Adversarial Robustness},
  author = {Artur Jordao and Helio Pedrini},
  journal= {arXiv preprint arXiv:2108.04890},
  year   = {2021}
}

备注

Published at International Conference on Computer Vision Workshop (ICCVW), 2021