评估与缓解视觉生成AI中的知识产权侵权
计算机视觉与模式识别
2024-06-10 v1
摘要
视觉生成AI模型（如DALL-E 3、Stable Diffusion XL、Stable Video Diffusion和Sora）的流行度不断提升。通过广泛评估，我们发现最先进的视觉生成模型可以生成与由主要娱乐公司（如Sony、Marvel和Nintendo）持有知识产权的角色几乎产生相同的内容，这引发了潜在的法律顾虑。当输入提示包含角色名称或其特征描述性细节时，就会发生这种情况。为缓解此类知识产权侵权问题，我们还提出了一种防御方法。具体而言，我们开发了一种修订后的生成范式，能够识别可能侵犯知识产权的生成内容，并通过在扩散过程中利用引导技术来防止知识产权侵权。它具有识别可能侵犯知识产权生成内容的能力，并且通过在扩散过程中采用引导方法来缓解此类侵权，而无需重新训练或微调预训练模型。在针对Spider-Man、Iron Man和Superman等知名角色IP的实验中，我们证明了所提出防御方法的有效性。我们的数据和代码可在https://github.com/ZhentingWang/GAI_IP_Infringement中找到。
引用
@article{arxiv.2406.04662,
title = {Evaluating and Mitigating IP Infringement in Visual Generative AI},
author = {Zhenting Wang and Chen Chen and Vikash Sehwag and Minzhou Pan and Lingjuan Lyu},
journal= {arXiv preprint arXiv:2406.04662},
year = {2024}
}