对抗跨层策略集成防御对抗样本
机器学习
2019-10-07 v1 机器学习
摘要
深度神经网络（DNN）已在多个领域展现其成功。然而，DNN 模型天生易受对抗样本攻击，对抗样本通过对良性输入添加对抗扰动以欺骗 DNN 模型使其误分类。本文提出一种跨层策略集成框架及一套鲁棒防御算法，其独立于攻击，并能够对受攻击的目标模型进行自动修复与自动验证。我们的策略集成方法作出三项原创贡献。首先，我们利用输入变换多样性设计输入层策略变换集成算法。其次，我们利用模型分歧多样性开发输出层策略模型集成算法。最后，我们创建一种输入输出跨层策略集成防御，通过将基于多样输入变换的模型集成与基于多样输出验证的模型集成相结合来强化防御能力。在 ImageNet 数据集上针对 10 种攻击的评估表明，与现有代表性防御方法相比，我们的策略集成防御算法能实现高防御成功率，且具有更高的攻击阻止成功率与更低的良性假阴性率，因而更为鲁棒。
引用
@article{arxiv.1910.01742,
title = {Cross-Layer Strategic Ensemble Defense Against Adversarial Examples},
author = {Wenqi Wei and Ling Liu and Margaret Loper and Ka-Ho Chow and Emre Gursoy and Stacey Truex and Yanzhao Wu},
journal= {arXiv preprint arXiv:1910.01742},
year = {2019}
}
备注
To appear in IEEE ICNC 2020