面向图像到视频生成模型的视觉指令注入
计算机视觉与模式识别
2026-03-03 v2
摘要
图像到视频 (I2V) 生成模型以参考图像为条件生成视频，展现出越来越强的视觉指令跟随能力，使参考图像中 Certain 的视觉线索能够作为隐式控制信号用于视频生成。然而，这一能力也引入了此前被忽视的风险：对手方可能利用视觉指令通过图像模态注入恶意意图。本文提出了视觉指令注入 (VII) 方法，通过训练无关的方式且可迁移的框架，故意将不安全文本提示的恶意意图伪装为 benign 视觉指令于安全参考图像中。具体而言，VII 协调恶意意图重编程模块，从不安全文本提示中提炼恶意意图，同时最小化其静态危害；并通过视觉指令 grounding 模块将提炼出的意图锚定于安全输入图像上，通过渲染保持与原始不安全文本提示语义一致的视觉指令，从而在 I2V 生成过程中诱发有害内容。经实验，我们在四个最先进的商业 I2V 模型 (Kling-v2.5-turbo、Gemini Veo-3.1、Seedance-1.5-pro、PixVerse-V5) 上进行大规模实验，证明 VII 在最高可达 83.5% 的攻击成功率下，将拒绝率降至接近零，显著优于现有基线方法。
引用
@article{arxiv.2602.20999,
title = {VII: Visual Instruction Injection for Jailbreaking Image-to-Video Generation Models},
author = {Bowen Zheng and Yongli Xiang and Ziming Hong and Zerong Lin and Chaojian Yu and Tongliang Liu and Xinge You},
journal= {arXiv preprint arXiv:2602.20999},
year = {2026}
}
备注
Project page: https://Zbwwwwwwww.github.io/VII