针对拆分神经网络模型反演攻击的实用防御方法
机器学习
2021-04-22 v2 密码学与安全
分布式、并行与集群计算
摘要
我们描述了一种威胁模型，在该模型下基于拆分网络的联邦学习系统易受恶意计算服务器的模型反演攻击。我们证明，攻击者在仅有限了解数据分布的情况下即可成功实施该攻击。我们提出了一种简单的加性噪声方法来防御模型反演，发现该方法能以 MNIST 上可接受的精度折损显著降低攻击效能。此外，我们表明现有的防御方法 NoPeekNN 保护的是不同的暴露信息，这意味着需要组合防御以充分保护私有用户数据。
引用
@article{arxiv.2104.05743,
title = {Practical Defences Against Model Inversion Attacks for Split Neural Networks},
author = {Tom Titcombe and Adam J. Hall and Pavlos Papadopoulos and Daniele Romanini},
journal= {arXiv preprint arXiv:2104.05743},
year = {2021}
}
备注
ICLR 2021 Workshop on Distributed and Private Machine Learning (DPML 2021)