基于多智能体强化学习的分布性黑盒模型反转攻击
机器学习
2024-04-23 v1 密码学与安全
摘要
基于生成对抗网络（GAN）的模型反转（MI）攻击旨在通过搜索潜空间中的编码来恢复复杂深度学习模型中的私有训练数据。然而，它们仅搜索确定性潜空间，导致找到的潜编码通常是次优的。此外，现有的分布性MI方案假设攻击者可以访问目标模型的结构和参数，这在实践中并不总是可行的。为克服上述缺点，本文提出了一种新颖的分布性黑盒模型反转（DBB-MI）攻击，通过构建概率潜空间来搜索目标隐私数据。具体来说，DBB-MI不需要目标模型参数或专门的GAN训练。相反，它通过结合目标模型的输出与多智能体强化学习技术来找到潜概率分布。然后，它从潜概率分布中随机选择潜编码来恢复私有数据。由于潜概率分布与潜空间中的目标隐私数据紧密对齐，恢复的数据将显著泄露目标模型训练样本的隐私。在不同数据集和网络上进行的大量实验表明，本文提出的DBB-MI在攻击准确率、K近邻特征距离和峰值信噪比方面均优于现有技术。
引用
@article{arxiv.2404.13860,
title = {Distributional Black-Box Model Inversion Attack with Multi-Agent Reinforcement Learning},
author = {Huan Bao and Kaimin Wei and Yongdong Wu and Jin Qian and Robert H. Deng},
journal= {arXiv preprint arXiv:2404.13860},
year = {2024}
}