面向动作识别的查询高效跨数据集可迁移黑盒攻击
计算机视觉与模式识别
2022-11-24 v1 密码学与安全
摘要
黑盒对抗攻击对动作识别系统构成了现实威胁。现有的黑盒攻击要么遵循基于查询的方法(通过查询目标模型来优化攻击),要么遵循基于迁移的方法(使用替代模型生成攻击)。尽管这些方法能获得不错的欺骗率,但前者往往查询效率极低,而后者假定对黑盒模型训练数据有广泛了解。在本文中,我们提出了一种针对动作识别的新攻击,通过生成扰动以破坏预训练替代模型学到的特征来减少查询次数,从而解决上述缺陷。通过使用几乎不相交的数据集训练替代模型,我们的方法去除了替代模型须使用与目标模型相同数据集训练的要求,并利用对目标模型的查询来保留基于查询方法所提供的欺骗率优势。这最终产生了比传统黑盒攻击具有更高可迁移性的攻击。通过大量实验,我们证明了所提框架具有极高的查询高效黑盒攻击能力。与最先进的基于查询和基于迁移的攻击相比,我们的方法分别实现了 8% 和 12% 更高的欺骗率。
引用
@article{arxiv.2211.13171,
title = {Query Efficient Cross-Dataset Transferable Black-Box Attack on Action Recognition},
author = {Rohit Gupta and Naveed Akhtar and Gaurav Kumar Nayak and Ajmal Mian and Mubarak Shah},
journal= {arXiv preprint arXiv:2211.13171},
year = {2022}
}