预测暴露你的面部：通过预测对齐实现黑盒模型逆转
计算机视觉与模式识别
2024-12-25 v2
摘要
模型逆转 (MI) 攻击在给定模型输出的情况下重构目标模型的私有训练数据，构成深度学习模型和数据隐私的重大威胁。一方面，大多数现有MI方法专注于搜索表示目标身份的潜在代码，但这种基于迭代优化的方案会消耗大量查询目标模型的资源，在黑盒场景下尤其不现实。另一方面，一些基于训练的方法则通过单次前向推理发动攻击，但未能直接从预测向量学习高层次的图像映射。针对这些限制，我们提出一种新的预测到图像 (P2I) 方法，用于黑盒MI攻击。具体而言，我们引入预测对齐编码器，将目标模型的输出预测映射到StyleGAN的潜在代码中。如此一来，预测向量空间可以与更具解耦性的潜在空间良好对齐，从而在预测向量与语义面部特征之间建立联系。在攻击阶段，我们进一步设计了对齐集合攻击方案，用于整合目标身份的互补面部属性以实现更好的重建。实验结果表明，我们的方法在其他SOTA方法中表现更优，例如与RLB-MI相比，在CelebA数据集上，攻击准确率提高了8.5%，查询次数减少了99%。
引用
@article{arxiv.2407.08127,
title = {Prediction Exposes Your Face: Black-box Model Inversion via Prediction Alignment},
author = {Yufan Liu and Wanqian Zhang and Dayan Wu and Zheng Lin and Jingzi Gu and Weiping Wang},
journal= {arXiv preprint arXiv:2407.08127},
year = {2024}
}
备注
Accepted by ECCV 2024