通过通道级激活抑制提升对抗鲁棒性
机器学习
2022-01-19 v2
摘要
对抗性示例及其激活的研究因深度神经网络（DNNs）的安全与鲁棒学习而备受关注。与现有工作不同，本文从通道级激活视角强调了对抗性示例的两个新特征：1）对抗性示例的激活幅度高于自然示例；2）对抗性示例比自然示例更均匀地激活通道。我们发现，最先进的防御方法对抗训练已通过在对抗性示例上训练解决了高激活幅度的第一个问题，而均匀激活的第二个问题仍然存在。这促使我们提出一种通道级激活抑制（CAS）策略，以抑制被对抗扰动冗余激活的通道。我们表明，CAS 可训练出一种从本质上抑制对抗激活的模型，并且可轻松应用于现有防御方法以进一步提升其鲁棒性。我们的工作为强化 DNNs 中间层激活提供了一种简单但通用的训练策略。
引用
@article{arxiv.2103.08307,
title = {Improving Adversarial Robustness via Channel-wise Activation Suppressing},
author = {Yang Bai and Yuyuan Zeng and Yong Jiang and Shu-Tao Xia and Xingjun Ma and Yisen Wang},
journal= {arXiv preprint arXiv:2103.08307},
year = {2022}
}
备注
ICLR2021 accepted paper