MTDeep：利用移动目标防御提升深度神经网络对抗攻击的安全性
机器学习
2019-08-06 v3 密码学与安全
计算机科学与博弈论
摘要
当前的攻击方法可使基于深度神经网络的最先进分类系统对每个经过对抗性修改的测试样本都产生误分类。针对广泛此类攻击的通用防御策略设计仍是一个具有挑战性的难题。本文从网络安全和多智能体系统领域汲取灵感，提出利用移动目标防御（Moving Target Defense, MTD）概念设计一种元防御，以“增强”用于视觉分类任务的深度神经网络（DNN）集成在面对此类对抗攻击时的鲁棒性。为对输入图像进行分类，通过将防御者（托管分类网络的一方）与其（合法和恶意）用户之间的交互建模为贝叶斯斯塔克尔伯格博弈（Bayesian Stackelberg Game, BSG），从该网络集合中随机选取一个已训练网络。我们通过实验表明，这种称为MTDeep的方法在MNIST、FashionMNIST和ImageNet等多个数据集上减少了对扰动图像的误分类，同时在合法测试图像上保持了高分类准确率。随后，我们证明该框架作为首个元防御技术，可与任何现有防御机制结合使用，以提供超出这些防御机制本身所能提供的对抗攻击抵御能力。最后，为量化使用MTDeep时基于集成的分类系统鲁棒性的提升，我们分析了一组DNN的特性，并引入了差分免疫（differential immunity）概念，以形式化攻击可迁移性的概念。
引用
@article{arxiv.1705.07213,
title = {MTDeep: Boosting the Security of Deep Neural Nets Against Adversarial Attacks with Moving Target Defense},
author = {Sailik Sengupta and Tathagata Chakraborti and Subbarao Kambhampati},
journal= {arXiv preprint arXiv:1705.07213},
year = {2019}
}
备注
Accepted to the Conference on Decision and Game Theory for Security (GameSec), 2019