将坏人拒之门外：利用 JPEG 压缩保护与免疫深度学习
计算机视觉与模式识别
2017-05-09 v1 密码学与安全
摘要
深度神经网络 (DNNs) 在解决多种机器学习 (ML) 问题方面取得了巨大成功，尤其在图像识别领域。然而，近期研究表明 DNNs 可能极易受到对抗性生成实例的攻击，这些实例对人类观察者看似正常，却完全混淆 DNNs。这些对抗样本通过对正常良性图像添加微小扰动而精心制作。此类扰动虽为人眼不可察觉，却被 DNNs 捕获并导致其以高置信度错误分类被操纵的实例。本工作中，我们探索并展示了系统性 JPEG 压缩如何作为分类流水线中的有效预处理步骤来对抗对抗攻击并显著削弱其影响（例如快速梯度符号法、DeepFool）。JPEG 压缩的一个重要组成部分是其去除图像方块内高频信号分量的能力。该操作等同于对图像的选择性模糊，有助于去除加性扰动。此外，我们提出一种基于集成的技术，可从给定的性能良好 DNN 快速构建，并经验性地展示这种利用 JPEG 压缩的集成如何能在无需模型知识的情况下保护模型免受多种对抗攻击。
引用
@article{arxiv.1705.02900,
title = {Keeping the Bad Guys Out: Protecting and Vaccinating Deep Learning with JPEG Compression},
author = {Nilaksh Das and Madhuri Shanbhogue and Shang-Tse Chen and Fred Hohman and Li Chen and Michael E. Kounavis and Duen Horng Chau},
journal= {arXiv preprint arXiv:1705.02900},
year = {2017}
}