利用逐元素激活缩放提升卷积神经网络的鲁棒性
计算机视觉与模式识别
2022-02-25 v1 人工智能
摘要
近期工作揭示，重新校准对抗样本的中间激活可提升 CNN 模型的对抗鲁棒性。现有最优方法 [Bai et al., 2021] 与 [Yan et al., 2021] 在通道级探索该特性，即一个通道的激活被统一乘以一个因子进行缩放。本文中，我们在更细粒度上研究中间激活操控。我们不对激活统一缩放，而是单独调整激活内的每个元素，从而提出逐元素激活缩放（Element-Wise Activation Scaling，简称 EWAS）以提升 CNN 的对抗鲁棒性。在 ResNet-18 和 WideResNet 结合 CIFAR10 与 SVHN 上的实验结果表明，EWAS 显著提升了鲁棒准确率。尤其在 CIFAR10 上的 ResNet18，EWAS 将针对 C&W 攻击的对抗准确率由 37.65% 提升至 82.35%。EWAS 在提升鲁棒性方面简单却非常有效。代码匿名发布于 https://anonymous.4open.science/r/EWAS-DD64。
引用
@article{arxiv.2202.11898,
title = {Improving Robustness of Convolutional Neural Networks Using Element-Wise Activation Scaling},
author = {Zhi-Yuan Zhang and Di Liu},
journal= {arXiv preprint arXiv:2202.11898},
year = {2022}
}