VGMShield：缓解视频生成模型的滥用

随着视频生成技术的快速发展，人们可以便捷地使用视频生成模型创建符合特定需求的视频。然而，这也引发了人们对利用视频生成传播非法内容和虚假信息的潜在滥用的日益担忧。在本工作中，我们介绍了 VGMShield：一套贯穿虚假视频生成全生命周期的简单而有效的缓解措施。我们从虚假视频检测入手，试图理解生成视频是否具有独特性，以及能否将其与真实视频区分开来；随后，我们研究了虚假视频源追溯问题，即将虚假视频映射回生成它的模型。为此，我们提出利用专注于时空动力学的预训练模型作为骨干网络，以识别视频中的不一致性。具体而言，我们从生成过程的角度分析虚假视频。基于对注意力偏移、运动变化和频率波动的观察，我们识别出生成视频中的常见模式。这些模式构成了我们虚假视频检测和源追溯实验的基础。通过对七个最先进的开源模型进行实验，我们证明当前模型仍无法可靠地复现时空关系，因此我们可以以超过 90% 的准确率完成检测和源追溯。此外，鉴于未来生成模型的改进，我们提出了一种预防方法，即在查询图像中添加不可见的扰动，使生成的视频看起来不真实。结合检测与追溯，我们这套多方面的解决方案能有效缓解视频生成模型的滥用。