谷歌云视觉API对噪声不鲁棒
计算机视觉与模式识别
2017-07-21 v2 机器学习
摘要
谷歌近期推出了用于图像分析的云视觉API。据演示网站称，该API“快速将图像分类为数千类，检测图像中的个体对象与人脸，并查找和读取图像中包含的印刷文字。”它也可用于“检测从成人到暴力内容的不同类型不适当内容。”在本文中，我们评估了谷歌云视觉API对输入扰动的鲁棒性。特别地，我们展示通过对图像添加足够噪声，API对带噪图像生成完全不同的输出，而人类观察者会感知其原始内容。我们通过在不同图像类型（包括自然图像、含人脸图像以及含文本图像）上进行大量实验，表明该攻击一致成功。例如，使用ImageNet数据集中的图像，我们发现添加平均14.25%的脉冲噪声足以欺骗该API。我们的发现指出了该API在对抗环境中的脆弱性。例如，对抗者可通过向不适当图像添加噪声来绕过图像过滤系统。我们随后展示当对输入图像施加噪声滤波器时，API对复原图像生成的输出与对原始图像生成的输出大多相同。该观察表明云视觉API可轻易受益于噪声滤波，而无需更新图像分析算法。
引用
@article{arxiv.1704.05051,
title = {Google's Cloud Vision API Is Not Robust To Noise},
author = {Hossein Hosseini and Baicen Xiao and Radha Poovendran},
journal= {arXiv preprint arXiv:1704.05051},
year = {2017}
}