当度量不可靠时：面向Top-$k$多标签学习的不可感知对抗扰动
计算机视觉与模式识别
2023-09-06 v2 密码学与安全
机器学习
摘要
随着深度神经网络的巨大成功，对抗学习在多类学习到多标签学习的各项研究中受到广泛关注。然而，现有的面向多标签学习的对抗攻击仅追求传统的视觉不可感知性，却忽略了来自 Precision@ 与 mAP@ 等度量的新的可感知问题。具体而言，当一个训练良好的多标签分类器在某些样本上表现远不及预期时，受害者很容易意识到这种性能退化源于攻击而非模型本身。因此，理想的多标签对抗攻击应设法不仅欺骗视觉感知，还要规避度量的监控。为此，本文首先提出度量不可感知性的概念。接着，设计了一种新颖的损失函数以生成可同时实现视觉与度量不可感知性的对抗扰动。此外，建立了一种具有凸优化目标的高效算法来优化该目标。最后，在 PASCAL VOC 2012、MS COCO 和 NUS WIDE 等大规模基准数据集上的大量实验证明了我们所提方法在攻击 top- 多标签系统中的优越性。
引用
@article{arxiv.2309.00007,
title = {When Measures are Unreliable: Imperceptible Adversarial Perturbations toward Top-$k$ Multi-Label Learning},
author = {Yuchen Sun and Qianqian Xu and Zitai Wang and Qingming Huang},
journal= {arXiv preprint arXiv:2309.00007},
year = {2023}
}
备注
22 pages, 7 figures, accepted by ACM MM 2023