生成式AI的版权保护与问责：攻击、水印与溯源
机器学习
2023-03-17 v1 密码学与安全
多媒体
摘要
生成式AI（例如生成对抗网络——GAN）近年来日益流行。然而，生成式AI引发了关于知识产权保护（IPR）（分别对应生成的图像（或有毒图像）和模型（或被投毒模型））以及模型问责的重大关切。在本文中，我们提出一个评估框架，以全面概述当前GAN版权保护措施现状，评估其在多种GAN架构上的性能，并识别影响性能的因素及未来研究方向。我们的结果表明，当前针对输入图像、模型水印和溯源网络的IPR保护方法对广泛的GAN大体令人满意。我们强调，必须进一步关注训练集的保护，因为当前方法无法对训练集提供鲁棒的IPR保护和来源追踪。
引用
@article{arxiv.2303.09272,
title = {Copyright Protection and Accountability of Generative AI:Attack, Watermarking and Attribution},
author = {Haonan Zhong and Jiamin Chang and Ziyue Yang and Tingmin Wu and Pathum Chamikara Mahawaga Arachchige and Chehara Pathmabandu and Minhui Xue},
journal= {arXiv preprint arXiv:2303.09272},
year = {2023}
}