看、听与攻击：针对视频动作识别的后门攻击
计算机视觉与模式识别
2023-01-23 v2 密码学与安全
机器学习
摘要
深度神经网络(DNN)易受一类称为“后门攻击”的攻击，其在后门触发器与攻击者意图利用的目标标签间建立关联。被植入后门的DNN在干净测试图像上表现良好，却会对任何含后门触发器的样本持续预测攻击者定义的标签。尽管后门攻击在图像域已被广泛研究，视频域中探索此类攻击的工作极少，且往往结论为图像后门攻击在视频域效果较弱。本文中，我们重访传统后门威胁模型，并将额外的视频相关方面纳入该模型。我们展示投毒标签的图像后门攻击可通过静态与动态两种方式在时间上扩展，从而在视频域导致极高效果的攻击。此外，我们探索自然视频后门以凸显该漏洞在视频域的严重性。并且，我们首次研究针对视频动作识别模型的多模态(音视频)后门攻击，表明仅攻击单一模态即足以实现高攻击成功率。
引用
@article{arxiv.2301.00986,
title = {Look, Listen, and Attack: Backdoor Attacks Against Video Action Recognition},
author = {Hasan Abed Al Kader Hammoud and Shuming Liu and Mohammed Alkhrashi and Fahad AlBalawi and Bernard Ghanem},
journal= {arXiv preprint arXiv:2301.00986},
year = {2023}
}