对抗排序攻击与防御
计算机视觉与模式识别
2020-07-07 v3 机器学习
摘要
深度神经网络(DNN)分类器易受对抗攻击,即难以察觉的扰动可能导致误分类。然而,基于 DNN 的图像排序系统的脆弱性仍鲜有探索。本文提出两种针对深度排序系统的攻击,即候选攻击与查询攻击,可通过对抗扰动提升或降低所选候选的排名。具体而言,首先将期望排序顺序表示为一组不等式,然后设计类三元组的目标函数以获取最优扰动。相反,我们还提出一种防御方法以提升排序系统鲁棒性,可同时缓解所有提出的攻击。我们的对抗排序攻击与防御在包括 MNIST、Fashion-MNIST 和 Stanford-Online-Products 的数据集上进行了评估。实验结果表明,典型的深度排序系统可被我们的攻击有效攻破。同时,采用我们的防御可适度提升系统鲁棒性。此外,对抗样本的迁移性与通用性说明了现实黑盒攻击的可能性。
引用
@article{arxiv.2002.11293,
title = {Adversarial Ranking Attack and Defense},
author = {Mo Zhou and Zhenxing Niu and Le Wang and Qilin Zhang and Gang Hua},
journal= {arXiv preprint arXiv:2002.11293},
year = {2020}
}
备注
ECCV2020