面向图像检索的通用扰动攻击
计算机视觉与模式识别
2019-09-12 v2 密码学与安全
机器学习
摘要
通用对抗扰动（UAPs，亦称输入无关扰动）已被证明存在，并能在绝大多数数据样本上欺骗前沿深度学习模型。现有 UAP 方法主要关注攻击图像分类模型，然而针对图像检索系统的攻击鲜有研究。本文中，我们首次尝试攻击图像检索系统。具体而言，图像检索攻击旨在使检索系统将无关图像返回至查询的排序前列。破坏图像检索攻击中特征间的邻域关系起着重要作用。为此，我们提出一种新方法生成检索对抗 UAP，通过退化相应排序度量来打破图像特征的邻域关系。为将攻击方法扩展至输入尺寸可变或网络参数不可触及的场景，提出了多尺度随机缩放方案与排序蒸馏策略。我们在四个广泛使用的图像检索数据集上评估所提方法，并报告了以 mAP 和 mP@10 等不同度量衡量的性能显著下降。最后，我们在真实世界视觉搜索引擎即 Google Images 上测试了攻击方法，展示了我们方法的实际潜力。
引用
@article{arxiv.1812.00552,
title = {Universal Perturbation Attack Against Image Retrieval},
author = {Jie Li and Rongrong Ji and Hong Liu and Xiaopeng Hong and Yue Gao and Qi Tian},
journal= {arXiv preprint arXiv:1812.00552},
year = {2019}
}
备注
ICCV 2019