基于云的图像分类服务对简单变换并不鲁棒：一个被遗忘的战场
计算机视觉与模式识别
2020-01-10 v2 密码学与安全
机器学习
图像与视频处理
摘要
许多近期研究表明，深度学习模型易受对抗样本攻击。幸运的是，生成对抗样本通常需要对受害模型的白盒访问权限，而攻击者只能访问云平台开放的API。因此，将模型保存在云端通常能带来一种（错误的）安全感。不幸的是，基于云的图像分类服务对高斯噪声、椒盐噪声、旋转和单色化等简单变换并不鲁棒。在本文中，（1）我们提出一种称为图像融合（Image Fusion, IF）攻击的新型攻击方法，其绕过率高，仅需OpenCV即可实现且难以防御；（2）我们首次尝试对针对真实世界基于云的分类服务的简单变换（Simple Transformation, ST）攻击进行广泛的实证研究。通过对包括Amazon、Google、Microsoft、Clarifai在内的四个流行云平台的评估，我们证明除Amazon约为50%外，ST攻击的成功率约为100%，IF攻击在不同分类服务中的成功率超过98%。（3）我们讨论了应对这些安全挑战的可能防御方法。实验表明，我们的防御技术能有效防御已知的ST攻击。
引用
@article{arxiv.1906.07997,
title = {Cloud-based Image Classification Service Is Not Robust To Simple Transformations: A Forgotten Battlefield},
author = {Dou Goodman and Tao Wei},
journal= {arXiv preprint arXiv:1906.07997},
year = {2020}
}
备注
arXiv admin note: text overlap with arXiv:1901.01223, arXiv:1704.05051, arXiv:1801.02612 by other authors