Shield：利用 JPEG 压缩对深度学习进行快速、实用的防御与疫苗化
计算机视觉与模式识别
2018-02-21 v1 人工智能
密码学与安全
摘要
对抗机器学习研究中迅速增长的文献已表明，深度神经网络(DNNs)对对抗生成图像高度脆弱。这凸显了亟需可随时部署以实时抵御攻击的实用防御。观察到许多攻击策略旨在以视觉上难以察觉的方式扰动图像像素，我们将 JPEG 压缩置于所提出的 Shield 防御框架的核心，利用其有效“压缩掉”此类像素操纵的能力。为使 DNN 模型对压缩引入的伪影免疫，Shield 通过使用压缩图像重新训练来“疫苗化”模型，其中施加不同压缩级别以生成多个疫苗化模型，最终在集成防御中共同使用。在此基础上，Shield 通过在测试时采用随机化增加了一层额外保护，即使用随机压缩级别压缩图像的不同区域，使对手更难估计所执行的变换。这种疫苗化、集成与随机化的新颖组合使 Shield 成为强化多管齐下的保护。我们使用 ImageNet 数据集进行了广泛的大规模实验，表明我们的方法消除了近期最强攻击（如 Carlini-Wagner 的 L2 与 DeepFool）所发起的至多 94% 黑盒攻击与 98% 灰盒攻击。我们的方法快速且在无需模型知识的情况下工作。
引用
@article{arxiv.1802.06816,
title = {Shield: Fast, Practical Defense and Vaccination for Deep Learning using JPEG Compression},
author = {Nilaksh Das and Madhuri Shanbhogue and Shang-Tse Chen and Fred Hohman and Siwei Li and Li Chen and Michael E. Kounavis and Duen Horng Chau},
journal= {arXiv preprint arXiv:1802.06816},
year = {2018}
}
备注
under review at KDD'18