面向异步事件数据的对抗攻击
计算机视觉与模式识别
2021-12-28 v1 人工智能
摘要
深度神经网络(DNNs)易受精心设计的对抗样本攻击，这些样本会使深度学习模型犯错。针对2D图像与3D点云的对抗样本已被广泛研究，但关于事件数据的研究有限。事件数据可作为高速运动（如自动驾驶）下2D图像的替代。然而，给定的对抗事件使当前深度学习模型面临安全漏洞。本工作中，我们首次为事件数据生成对抗样本并训练鲁棒模型。我们的算法偏移原始事件的时间并生成额外对抗事件。额外对抗事件分两阶段生成。首先，向事件数据添加空事件以生成额外对抗事件，扰动大小可由空事件数量控制。其次，以基于梯度的攻击设置额外对抗事件的位置与时间以误导DNNs。我们的算法在N-Caltech101数据集上达到97.95\%的攻击成功率。此外，对抗训练模型相较原始模型提升了对抗事件数据上的鲁棒性。
引用
@article{arxiv.2112.13534,
title = {Adversarial Attack for Asynchronous Event-based Data},
author = {Wooju Lee and Hyun Myung},
journal= {arXiv preprint arXiv:2112.13534},
year = {2021}
}
备注
8 pages, 6 figures, Thirty-Sixth AAAI Conference on Artificial Intelligence (AAAI-22)