无数据模型相关攻击：释放生成式AI的潜力

生成式AI技术已日益融入我们的日常生活，提供了增强生产力的强大能力。然而，这些相同的能力可能被对手利用于恶意目的。尽管现有关于生成式AI对抗性应用的研究主要集中在网络攻击上，但针对深度学习模型的攻击受到的关注较少。在本文中，我们介绍了利用生成式AI促进模型相关攻击的方法，包括模型提取、成员推断和模型反转。我们的研究表明，对手可以以无数据和黑盒方式对图像和文本模型发起多种模型相关攻击，其性能与以白盒方式访问目标模型训练数据和参数的基线方法相当。这项研究向社区发出了关于生成式AI驱动的深度学习模型攻击潜在风险的重要早期预警。