NICGSlowDown：评估神经图像描述生成模型的效率鲁棒性
计算机视觉与模式识别
2022-03-31 v1 人工智能
机器学习
摘要
神经图像描述生成（NICG）模型因其在视觉理解中的优异表现而受到研究界的广泛关注。现有工作侧重于提升 NICG 模型的准确率，而对效率的探究较少。然而，许多现实应用需要实时反馈，这在很大程度上依赖于 NICG 模型的效率。近期研究观察到，NICG 模型对不同输入的效率可能存在差异。这一观察为 NICG 模型带来了一种新的攻击面，即攻击者或许能够轻微修改输入，使 NICG 模型消耗更多计算资源。为了进一步理解此类面向效率的威胁，我们提出了一种新攻击方法 NICGSlowDown，用于评估 NICG 模型的效率鲁棒性。实验结果表明，NICGSlowDown 能够生成带有人类难以察觉扰动的图像，使 NICG 模型的延迟最高增加 483.86%。我们希望本研究能引起学界对 NICG 模型效率鲁棒性的关注。
引用
@article{arxiv.2203.15859,
title = {NICGSlowDown: Evaluating the Efficiency Robustness of Neural Image Caption Generation Models},
author = {Simin Chen and Zihe Song and Mirazul Haque and Cong Liu and Wei Yang},
journal= {arXiv preprint arXiv:2203.15859},
year = {2022}
}
备注
This paper is accepted at CVPR2022