基于随机集成平滑模型的深度神经网络对抗鲁棒性动态防御方法
密码学与安全
2021-05-07 v1 计算机视觉与模式识别
摘要
深度神经网络已被证明在对抗攻击下存在严重的脆弱性。这一现象促使了类似于网络空间安全中所采用的各种攻击与防御策略的产生。此类策略对攻防机制的依赖使得双方的关联算法呈现出紧密往复的过程。在这些过程中防御策略尤为被动，而增强其主动性可作为摆脱这场军备竞赛的有效途径。受网络空间动态防御方法的启发，本文在随机平滑与模型集成防御方法的基础上构建了随机集成平滑。所提方法将网络架构与平滑参数作为集成属性，并在每次推理预测请求前动态改变基于属性的集成模型。该方法应对了集成模型在白盒攻击下极强的可迁移性与脆弱性。在不同攻击场景下ASR-失真曲线的实验比较表明，即便具有最高攻击能力的攻击者也无法轻易超过与集成平滑模型相关的攻击成功率，尤其在无目标攻击下。
引用
@article{arxiv.2105.02803,
title = {Dynamic Defense Approach for Adversarial Robustness in Deep Neural Networks via Stochastic Ensemble Smoothed Model},
author = {Ruoxi Qin and Linyuan Wang and Xingyuan Chen and Xuehui Du and Bin Yan},
journal= {arXiv preprint arXiv:2105.02803},
year = {2021}
}
备注
17 pages,8 figures