基于知识图一致性的有效多标签识别攻击
计算机视觉与模式识别
2022-07-13 v1
摘要
许多图像识别的实际应用需要多标签学习，其目标是找出图像中的所有标签。因此，此类系统对对抗性图像扰动的鲁棒性极为重要。然而，尽管近期关于对抗攻击的研究众多，现有工作的范围主要局限于多类设置，即每幅图像仅含单个标签。我们表明，将多类攻击朴素地扩展到多标签设置会导致违反由知识图建模的标签关系，并且可利用一致性验证方案检测出来。因此，我们提出了一种图一致多标签攻击框架，该框架搜索微小的图像扰动，以在尊重标签层级的同时误分类所需目标集合。通过在两个数据集和使用多个多标签识别模型的大量实验，我们表明我们的方法生成了极其成功的攻击，与朴素多标签扰动不同，它能够产生与知识图一致的模型预测。
引用
@article{arxiv.2207.05137,
title = {Towards Effective Multi-Label Recognition Attacks via Knowledge Graph Consistency},
author = {Hassan Mahmood and Ehsan Elhamifar},
journal= {arXiv preprint arXiv:2207.05137},
year = {2022}
}