重新思考基于块重建的模型反演攻击
人工智能
2024-11-05 v2 密码学与安全
摘要
模型反演（MI）攻击旨在通过对目标模型权重进行逆向工程来推断或重建训练数据集。最近，生成模型的显著进步使得 MI 攻击克服了生成训练数据集逼真复制品的挑战，这种技术被称为生成式 MI。生成式 MI 主要专注于识别对应于特定目标标签的潜向量，利用在辅助数据集上训练的生成模型。然而，一个重要方面经常被忽视：如果预训练的生成模型缺乏创建对应目标标签图像的覆盖能力，MI 攻击就会失败，特别是当目标数据集和辅助数据集存在显著差异时。为了填补这一空白，受拼图游戏启发，我们提出了 Patch-MI 方法，该方法为 MI 攻击提供了一种新颖的概率解释。即使辅助数据集不相似，我们的方法也能通过基于块的重建，有效创建紧密模仿目标数据集中图像块分布的图像。此外，我们通过数值证明，与现有方法相比，Patch-MI 将 Top 1 攻击准确率提高了 5\%p。
引用
@article{arxiv.2312.07040,
title = {Rethinking Model Inversion Attacks With Patch-Wise Reconstruction},
author = {Jonggyu Jang and Hyeonsu Lyu and Hyun Jong Yang},
journal= {arXiv preprint arXiv:2312.07040},
year = {2024}
}
备注
12 pages