面向黑盒对抗攻击的去噪与验证跨层集成
机器学习
2019-10-29 v2 密码学与安全
机器学习
摘要
深度神经网络（DNNs）在许多具有挑战性的机器学习任务上展现了令人印象深刻的性能。然而，DNNs 易受通过对良性输入添加恶意构造扰动而生成的对抗输入的攻击。随着越来越多具有不同复杂度的攻击被报道，防御-攻击军备竞赛已加速。在本文中，我们提出 MODEF，一种跨层模型多样性集成框架。MODEF 通过量化模型多样性，智能地将无监督模型去噪集成与有监督模型验证集成相结合，旨在提升目标模型针对对抗样本的鲁棒性。利用流行基准数据集上的十一种代表性攻击进行评估，我们表明与现有防御方法相比，MODEF 实现了显著的防御成功率，并提供了在黑盒攻击存在时修复对抗输入并以高准确率做出正确预测的优越能力。
引用
@article{arxiv.1908.07667,
title = {Denoising and Verification Cross-Layer Ensemble Against Black-box Adversarial Attacks},
author = {Ka-Ho Chow and Wenqi Wei and Yanzhao Wu and Ling Liu},
journal= {arXiv preprint arXiv:1908.07667},
year = {2019}
}
备注
To appear in IEEE BigData 2019