针对基于视频的动作识别的时间分布式后门攻击

深度神经网络（DNNs）在包括视频动作识别在内的多种应用中取得了巨大成功，但仍易受后门攻击（特洛伊木马）的威胁。被后门攻陷的模型会在测试样本（来自非目标类）嵌入特定触发器时将其误分类为攻击者选定的目标类，同时在无攻击样本上保持高准确率。尽管针对图像数据的后门攻击已有大量研究，但基于视频的系统在后门攻击下的脆弱性仍很大程度上未被探索。现有研究直接将图像数据的方法进行扩展，例如触发器在帧内独立嵌入，往往易被已有防御手段检测。本文提出一种简单而有效的针对视频数据的后门攻击。我们提出的攻击在变换域中添加扰动，跨视频帧植入难以察觉、时间分布的触发器，并证明其对现有防御策略具有鲁棒性。通过在两个视频识别基准 UCF101 和 HMDB51 以及一个手语识别基准 Greek Sign Language (GSL) 数据集上用多种知名模型进行大量实验，证明了该攻击的有效性。我们深入探究了若干影响因素对我们所提攻击的作用，并通过广泛研究发现了一种称为“附带损害”的有趣效应。