多标签分类模型中显示多个标签的实证研究：对抗样本
人工智能
2024-09-27 v1
摘要
随着深度神经网络（Deep Neural Networks, DNNs）的快速发展，它们已被应用于诸多领域。然而，研究表明 DNNs 对对抗样本高度敏感，这在多标签领域同样如此。为进一步调查多标签对抗样本，我们引入一种新型攻击方式，称为 "Showing Many Labels"（显示多个标签）。该攻击的目标是最大化分类器预测结果中包含的标签数量。在我们的实验中，我们选择了九种攻击算法并在 "显示多个标签" 场景下评估其性能。其中八种攻击算法 adapted from（改编）了多类环境中的算法至多标签环境，剩余一种则是专为多标签环境设计。我们选择 ML-LIW 和 ML-GCN 作为目标模型，并在四个流行的多标签数据集上进行训练：VOC2007、VOC2012、NUS-WIDE 和 COCO。我们记录了每个算法在八种不同情景下成功显示预期标签数量的成功率。实验结果表明，在 "显示多个标签" 场景下，迭代式攻击显著优于单步攻击。此外，可能显示数据集中的所有标签。
引用
@article{arxiv.2409.17568,
title = {Showing Many Labels in Multi-label Classification Models: An Empirical Study of Adversarial Examples},
author = {Yujiang Liu and Wenjian Luo and Zhijian Chen and Muhammad Luqman Naseem},
journal= {arXiv preprint arXiv:2409.17568},
year = {2024}
}
备注
14 pages