面向具身智能体的时空对抗攻击
计算机视觉与模式识别
2020-11-18 v3
摘要
对抗攻击有助于揭示深度学习模型的盲区并提升其鲁棒性。现有对抗攻击研究主要聚焦于静态场景；然而，此类攻击对能够导航并与动态环境交互的具身智能体是否有效仍不清楚。本文中，我们首次研究面向具身智能体的对抗攻击。具体而言，我们生成时空扰动以构造 3D 对抗样本，其利用时间维与空间维上的交互历史。在时间维度上，由于智能体基于历史观测进行预测，我们设计了轨迹注意力模块来探索场景视角贡献，进而帮助定位具有最高刺激响应的 3D 物体。结合时间维度的线索，在空间维度上，我们对出现在最重要场景视角中的上下文物体的物理属性（如纹理与 3D 形状）进行对抗扰动。我们在 EQA-v1 数据集上针对若干具身任务，在白盒与黑盒设定下进行了大量实验，表明我们的扰动具有强大的攻击与泛化能力。
引用
@article{arxiv.2005.09161,
title = {Spatiotemporal Attacks for Embodied Agents},
author = {Aishan Liu and Tairan Huang and Xianglong Liu and Yitao Xu and Yuqing Ma and Xinyun Chen and Stephen J. Maybank and Dacheng Tao},
journal= {arXiv preprint arXiv:2005.09161},
year = {2020}
}
备注
Accepted on ECCV 2020