GenAI Confessions: 生成式图像模型的黑盒成员推断

从简单的文本提示，生成式AI图像模型可以创建惊人逼真和创造性的图像，似乎只受限于我们的想象力。这些模型之所以能取得这一非凡成就，部分原因在于它们摄入了从互联网几乎每个角落收集的数十亿张图像。许多创作者理所当然地对其知识产权在未经许可或没有选择退出训练机制的情况下被摄入表示担忧。因此，合理使用和版权侵权问题迅速出现。我们描述了一种方法，可以确定模型是否在特定图像或图像集上训练过。该方法计算效率高，且假设对模型架构或权重没有显式知识（即所谓的黑盒成员推断）。我们预计该方法对于审计现有模型至关重要，并且展望未来，将确保生成式AI模型更公平地开发和部署。