奇妙的受版权保护的生物及其 (不) 如何生成
计算机视觉与模式识别
2025-03-27 v2 人工智能
计算机与社会
机器学习
摘要
最近的研究表明, 图像和视频生成模型可以被提示来复制其训练数据中的受版权保护内容, 这引发了关于版权侵权的严重法律关注。受版权保护的角色 (如马里奥、Batman) resents a significant challenge: 至少已有一项诉讼基于角色生成而判定受害者。因此, 像 DALL-E 这样的商业服务开始部署干预措施。然而, 针对这些问题的系统性研究仍很少: (1) 用户是否可以轻易地提示模型生成受版权保护的角色, 即便是非故意的?; (2) 现有的缓解策略有多有效?为回答这些问题, 我们引入了一个新的评估框架, 其中包含用于评估生成图像与受版权保护角色相似性以及其与用户意图一致性的指标, 该框架基于来自多家工作室和不同地区的流行受版权保护角色集合。我们展示了即使角色名称未被明确提及, 以及仅使用两个通用关键词 (如使用 "videogame, plumber" 都能持续生成任天堂的 Mario 角色) 的情况下, 最先进的图像和视频生成模型仍然能够生成角色。我们还引入了半自动技术来识别此类关键词或描述, 这些关键词或描述会触发角色生成。使用这个框架, 我们评估了缓解策略, 包括提示重写以及我们提出的新方法。我们的发现表明, 诸如 DALL-E 的提示重写等常见方法仅凯一项措施是不够的, 需要额外的策略如负面提示。我们的工作为关于版权缓解策略的讨论提供了实证依据, 并为实施此类安全措施的模型部署者提供了可操作的见解。
引用
@article{arxiv.2406.14526,
title = {Fantastic Copyrighted Beasts and How (Not) to Generate Them},
author = {Luxi He and Yangsibo Huang and Weijia Shi and Tinghao Xie and Haotian Liu and Yue Wang and Luke Zettlemoyer and Chiyuan Zhang and Danqi Chen and Peter Henderson},
journal= {arXiv preprint arXiv:2406.14526},
year = {2025}
}