关于生成模型可证明的版权保护
机器学习
2023-07-24 v2 机器学习
摘要
人们日益担忧习得的条件生成模型可能输出与其训练集中某些受版权保护的数据 高度相似的样本。我们给出 的形式化定义，并证明：对于满足该定义的模型，即使其训练集中包含 ，其输出与 相似样本的概率也有上界。粗略而言，若对每一潜在受版权保护的数据 ，生成模型 的输出与\textit{完全未访问 C} 的模型 的输出之发散度至多相差 比特，则称 为 \textit{k-NAF}。我们还给出生成模型学习算法，以黑盒方式高效修改原生成模型学习算法，使输出的生成模型对采样受保护内容的概率具有强上界。此外，我们在语言（transformers）与图像（diffusion）生成模型上进行了有前景的实验，表明在确保对采样受保护内容的强防护的同时，输出质量仅有极小退化。
引用
@article{arxiv.2302.10870,
title = {On Provable Copyright Protection for Generative Models},
author = {Nikhil Vyas and Sham Kakade and Boaz Barak},
journal= {arXiv preprint arXiv:2302.10870},
year = {2023}
}
备注
Accepted at ICML 2023