AICAttack：基于注意力优化的对抗性图像描述攻击
计算机视觉与模式识别
2024-12-13 v4 密码学与安全
机器学习
摘要
深度学习研究的最新进展在计算机视觉 (CV) 和自然语言处理 (NLP) 的许多任务中取得了显著成就。处于 CV 和 NLP 交叉点的是图像描述问题，而相关模型针对对抗性攻击的鲁棒性尚未得到充分研究。本文提出了一种新的对抗性攻击策略 AICAttack（基于注意力的图像描述攻击），旨在通过对图像进行细微扰动来攻击图像描述模型。在黑盒攻击场景下运行，我们的算法无需访问目标模型的架构、参数或梯度信息。我们引入了一种基于注意力的候选选择机制来识别最佳攻击像素，随后采用定制的差分进化方法来优化像素 RGB 值的扰动。我们在基准数据集上针对多个受害模型进行了大量实验，证明了 AICAttack 的有效性。实验结果表明，我们的方法通过实现 consistently 更高的攻击成功率，优于当前的领先技术。
引用
@article{arxiv.2402.11940,
title = {AICAttack: Adversarial Image Captioning Attack with Attention-Based Optimization},
author = {Jiyao Li and Mingze Ni and Yifei Dong and Tianqing Zhu and Wei Liu},
journal= {arXiv preprint arXiv:2402.11940},
year = {2024}
}