攻破 FedMD：通过对数几率配对反演攻击实现图像恢复
密码学与安全
2023-07-04 v2 人工智能
机器学习
摘要
基于模型蒸馏的联邦学习 (FedMD) 是一种新兴的协作学习范式，其中仅将公共数据集的输出 logits 作为蒸馏知识传输，而非传递易受梯度反演攻击（联邦学习中已知的隐私风险）的私有模型参数。在本文中，我们发现，尽管共享公共数据集的输出 logits 比直接共享梯度更安全，但精心设计的恶意攻击仍会导致实质性的数据暴露风险。我们的研究表明，恶意服务器可以通过训练一个利用服务器与客户端模型之间置信度差距的反演神经网络，对 FedMD 及其变体注入 PLI（对数几率配对反演，Paired-Logits Inversion）攻击。在多个面部识别数据集上的实验验证，在类 FedMD 方案下，仅利用公共数据集的配对服务器-客户端 logits，恶意服务器就能以高成功率在所有测试基准上重建私有图像。
引用
@article{arxiv.2304.11436,
title = {Breaching FedMD: Image Recovery via Paired-Logits Inversion Attack},
author = {Hideaki Takahashi and Jingjing Liu and Yang Liu},
journal= {arXiv preprint arXiv:2304.11436},
year = {2023}
}