超越梯度：在模型逆向攻击中利用对抗性先验
机器学习
2022-03-02 v1 密码学与安全
摘要
联邦学习等协作机器学习环境可能容易受到对抗性干扰和攻击。其中一类攻击被称为模型逆向攻击，其特征是对手对模型进行逆向工程以提取表征，从而泄露训练数据。该攻击的先前实现通常仅依赖于捕获的数据（即共享的梯度），并未利用对手自身作为训练联盟一部分所控制的数据。在这项工作中，我们提出了一种新颖的模型逆向框架，该框架建立在基于梯度的模型逆向攻击的基础上，但额外依赖于将重建图像的特征和风格与对手控制的数据进行匹配。我们的技术在定性和定量上都优于现有的基于梯度的方法，同时仍保持相同的诚实但好奇的威胁模型，使对手能够在保持隐蔽的同时获得增强的重建结果。
引用
@article{arxiv.2203.00481,
title = {Beyond Gradients: Exploiting Adversarial Priors in Model Inversion Attacks},
author = {Dmitrii Usynin and Daniel Rueckert and Georgios Kaissis},
journal= {arXiv preprint arXiv:2203.00481},
year = {2022}
}