尽管具有定位与注意力机制，视觉与语言模型仍可被对抗样本欺骗
人工智能
2018-04-09 v2
摘要
已知对抗攻击能够成功欺骗分类器，但更复杂的视觉系统是否同样脆弱仍是一个开放问题。本文研究了视觉与语言模型的对抗样本，这些模型结合了自然语言理解以及诸如注意力、定位和模块化架构等复杂结构。具体而言，我们研究了对密集描述模型和两个视觉问答（VQA）模型的攻击。我们的评估表明，能够以高成功率（即 > 90%）为这些模型生成对抗样本。本文为理解具有语言组件的视觉系统上的对抗攻击提供了新视角，并表明注意力、边界框定位以及组合式内部结构均易受对抗攻击影响。这些发现将为未来构建有效防御机制的研究提供参考。
引用
@article{arxiv.1709.08693,
title = {Fooling Vision and Language Models Despite Localization and Attention Mechanism},
author = {Xiaojun Xu and Xinyun Chen and Chang Liu and Anna Rohrbach and Trevor Darrell and Dawn Song},
journal= {arXiv preprint arXiv:1709.08693},
year = {2018}
}
备注
CVPR 2018