SPARK：通过同步提示声音与再语境化知识劫持文本到视频模型
计算机视觉与模式识别
2026-03-09 v3 密码学与安全
摘要
劫持攻击可绕过模型安全警戒线并揭示关键盲点。先前针对文本到视频（T2V）模型的攻击通常通过对明显不安全的提示添加对抗性扰动，往往容易被检测和防御。相反，我们展示了包含丰富隐式线索的看似中性的提示可诱导T2V模型生成既违反政策又保留原本被阻止意图的语义不安全视频。为实现这一目标，我们提出了SPARK框架，利用T2V模型的跨模态关联模式通过模块化提示设计。具体而言，我们的提示结合了三个组件：中性场景锚点，提取自被阻止意图的表面级场景描述，以维持合理性；潜在听觉触发器，来自听起来平淡无闻的音频事件（如 creaking、模糊噪声）的文本描述，这些触发器利用所学的音视频共现先例以偏向模型向特定不安全视觉概念靠拢；以及风格调制器，电影指令（如镜头构图、氛围），放大和稳定潜在触发器的效果。我们将攻击生成形式化为上述模块化提示空间上的受约束优化，并通过引导搜索程序求解，以平衡隐蔽性和有效性。对7个T2V模型进行的大量实验表明，我们的攻击有效，平均攻击成功率在商业模型上提高了+23%。
引用
@article{arxiv.2511.13127,
title = {SPARK: Jailbreaking T2V Models by Synergistically Prompting Auditory and Recontextualized Knowledge},
author = {Zonghao Ying and Moyang Chen and Nizhang Li and Zhiqiang Wang and Wenxin Zhang and Quanchen Zou and Zonglei Jing and Aishan Liu and Xianglong Liu},
journal= {arXiv preprint arXiv:2511.13127},
year = {2026}
}