面向动作识别模型的多模态攻击检测

针对视频动作识别模型的对抗机器学习攻击正成为一个不断增长的研究领域，近年来提出了许多有效的攻击方法。这些攻击表明，动作识别模型可以以多种方式被入侵。因此，在实际应用中使用这些模型将引发重大的安全担忧。然而，目前很少有工作致力于对抗或检测攻击。本文提出一种新颖的通用检测方法，能够与任何动作识别模型兼容。在大量实验中，我们展示了该方法在检测针对不同目标模型的各种攻击时，能够保持高的真阳性率，同时保持极低的假阳性率。在针对四个动作识别模型的四个最先进攻击进行测试后，本文提出的检测器在16个测试案例中的平均AUC为0.911，而现有最佳检测器的平均AUC为0.645。这种41.2%的提升得益于所提出检测器对不同攻击方法和目标模型的鲁棒性。我们检测器在16个测试案例中取得的最低AUC为0.837，而竞争检测器的性能最低可降至0.211。我们还展示了所提出检测器对不同攻击强度的鲁棒性。此外，我们分析了该方法在不同硬件配置下的实时性能，以证明其作为实用防御机制的潜力。