针对文本到视频生成的隐蔽后门攻击BadVideo
计算机视觉与模式识别
2025-07-29 v2 人工智能
摘要
文本到视频(T2V)生成模型快速发展并在娱乐、教育和营销等领域获得广泛应用。然而，这些模型的对抗性脆弱性仍鲜有被探讨。我们注意到，在T2V生成任务中，生成的视频常包含大量未在文本提示中明确指定的赘余信息，例如环境元素、次要物体和额外细节，这为恶意攻击者嵌入隐藏有害内容提供了机会。利用这种固有的冗余性，我们引入BadVideo，这是首个针对T2V生成的后门攻击框架。我们的攻击侧重于通过两个关键策略设计目标对抗输出：(1)时空组合，将不同时空特征组合以编码恶意信息；(2)动态元素转换，通过在时间维度上对赘余元素引入变换来传递恶意信息。基于这些策略，攻击者的恶意目标无缝地与用户的文本指令集成，具有高度的隐蔽性。此外，利用视频的时间维度，我们的攻击成功地规避了主要分析单个帧中空间信息的传统内容审查系统。大量实验表明，BadVideo在保持原始语义的同时，在干净输入上实现了高攻击成功率并表现出色。总体而言，我们的工作揭示了T2V模型的对抗性脆弱性，呼吁关注潜在风险和滥用。我们的项目页面位于https://wrt2000.github.io/BadVideo2025/。
引用
@article{arxiv.2504.16907,
title = {BadVideo: Stealthy Backdoor Attack against Text-to-Video Generation},
author = {Ruotong Wang and Mingli Zhu and Jiarong Ou and Rui Chen and Xin Tao and Pengfei Wan and Baoyuan Wu},
journal= {arXiv preprint arXiv:2504.16907},
year = {2025}
}
备注
Accepted by ICCV 2025