颠覆视频图像风格模仿攻击

生成式 AI 模型常被用于执行模仿攻击，通过对预训练模型进行微调，使用少量图像样本来学习模仿特定感兴趣的艺术家。尽管研究人员已提出多种反模仿保护工具（如 Mist、Glaze、Anti-Dreambooth），但近期证据表明，模仿模型正趋势使用视频作为训练数据的来源。本文 presents我们探索技术以颠覆视频图像风格模仿的经验。我们首先验证，通过在视频中提取的单个帧上训练，模仿攻击能够成功。我们表明，尽管反模仿工具在应用于单个帧时可提供保护，但这种方法 vulnerable to 一种自适应 countermeasure，该 countermeasure 通过利用连续（几乎相同）帧的优化结果中的随机性来消除保护。我们开发了一种新的、工具无关的框架，将视频分割为基于帧级相似性的短场景，并使用每个场景的优化基线来消除帧间随机化，同时降低计算成本。我们通过图像级指标和端到端用户研究表明，所得保护能够恢复对模仿攻击（包括该 countermeasure）的保护。最后，我们开发了另一种自适应 countermeasure，发现它在我们框架面前效果不佳。