物联网中深度学习即服务的对抗攻击渐进式防御
密码学与安全
2020-10-22 v1 人工智能
摘要
如今，深度学习即服务可部署于物联网（IoT）中，以提供智能服务与传感器数据处理。然而，近期研究揭示，某些深度神经网络（DNN）只需在输入中添加相对较小但具对抗性的扰动（如输入图像中的像素突变）便易被误导。防御此类攻击的一大挑战在于高效识别并滤除对抗性像素。具备良好鲁棒性的现有最优防御策略往往需针对特定攻击进行额外的模型训练。为在不损失通用性的前提下降低计算成本，我们提出一种称为对抗攻击渐进式防御（PDAAA）的防御策略，用于在无需攻击类型先验知识的情况下，高效且有效地滤除可能将神经网络误导至错误输出的对抗性像素突变。我们在两个知名数据集上针对多种攻击方法评估了该渐进式防御策略。结果表明，其性能优于现有最优方法，同时将模型训练成本平均降低 50%。
引用
@article{arxiv.2010.11143,
title = {Progressive Defense Against Adversarial Attacks for Deep Learning as a Service in Internet of Things},
author = {Ling Wang and Cheng Zhang and Zejian Luo and Chenguang Liu and Jie Liu and Xi Zheng and Athanasios Vasilakos},
journal= {arXiv preprint arXiv:2010.11143},
year = {2020}
}