联邦学习中隐私保护与可解释性的平衡
机器学习
2023-02-17 v1 密码学与安全
摘要
联邦学习（FL）旨在通过本地客户端向中心服务器共享模型参数的方式分布式协作训练全局模型，从而潜在地保护用户隐私信息。然而，近期研究表明FL仍遭受信息泄露，因为攻击者试图通过分析本地客户端共享的参数来恢复训练数据。为解决此问题，差分隐私（DP）在聚合前对本地模型梯度添加噪声。但这导致基于梯度的可解释性方法性能变差，因为特征图中捕捉显著区域的某些权重会被扰动。为克服该问题，我们提出一种简单而有效的自适应差分隐私（ADP）机制，有选择地对FL中客户端模型的梯度添加噪声扰动。我们还从理论上分析了梯度扰动对模型可解释性的影响。最后，在IID与Non-IID数据上的大量实验表明，所提ADP能在FL中实现隐私与可解释性间的良好权衡。
引用
@article{arxiv.2302.08044,
title = {Balancing Privacy Protection and Interpretability in Federated Learning},
author = {Zhe Li and Honglong Chen and Zhichen Ni and Huajie Shao},
journal= {arXiv preprint arXiv:2302.08044},
year = {2023}
}