随机激活剪枝用于鲁棒对抗防御
机器学习
2018-03-06 v1 机器学习
摘要
神经网络已知易受对抗样本攻击。对真实图像精心选择的扰动虽然人类难以察觉，却会诱导误分类，并威胁深度学习方法在真实场景中的可靠性。为防御对抗样本，我们受博弈论启发，将该问题建模为攻击者与模型之间的极小极大零和博弈。一般而言，此类博弈中双方的最优策略都需要随机策略，亦称混合策略。基于此，我们提出随机激活剪枝（Stochastic Activation Pruning, SAP），一种用于对抗防御的混合策略。SAP 剪枝随机的激活子集（优先剪枝幅值较小的激活）并放大幸存者以补偿。我们可将 SAP 应用于预训练网络，包括对抗训练模型，无需微调，即可提供针对对抗样本的鲁棒性。实验表明，SAP 能抵御攻击，提高准确率并保持校准。
引用
@article{arxiv.1803.01442,
title = {Stochastic Activation Pruning for Robust Adversarial Defense},
author = {Guneet S. Dhillon and Kamyar Azizzadenesheli and Zachary C. Lipton and Jeremy Bernstein and Jean Kossaifi and Aran Khanna and Anima Anandkumar},
journal= {arXiv preprint arXiv:1803.01442},
year = {2018}
}
备注
ICLR 2018