对抗样本与基于云的检测器：一项黑盒实证研究
计算机视觉与模式识别
2019-09-17 v4 密码学与安全
机器学习
摘要
深度学习已被 Google、AWS 和百度等主要云提供商广泛采用，以提供各类计算机视觉相关服务，包括图像分类、目标识别、非法图像检测等。尽管近期工作已充分证明深度学习分类模型易受对抗样本的攻击，但基于云的图像检测模型比分类器更为复杂，也可能存在类似的安全隐患但尚未得到足够关注。本文主要关注真实世界中基于云的图像检测器的安全问题。具体而言：（1）基于有效的语义分割，我们提出四种仅通过与黑盒 API 交互来生成语义感知对抗样本的攻击方法；（2）我们首次尝试对真实世界中基于云的图像检测器进行广泛的黑盒攻击实证研究。通过对 AWS、Azure、Google Cloud、百度云和阿里云五大主流云平台的综合评估，我们证明基于图像处理的攻击成功率可达约 100%，而基于语义分割的攻击在不同检测服务（如暴力、政治人物和色情检测）中成功率超过 90%。我们还针对现实情境下的这些安全挑战提出了几种可能的防御策略。
引用
@article{arxiv.1901.01223,
title = {Adversarial Examples Versus Cloud-based Detectors: A Black-box Empirical Study},
author = {Xurong Li and Shouling Ji and Meng Han and Juntao Ji and Zhenyu Ren and Yushan Liu and Chunming Wu},
journal= {arXiv preprint arXiv:1901.01223},
year = {2019}
}