邻居的回声：基于洗牌模型的个性化私有联邦学习隐私放大
密码学与安全
2023-05-29 v2 机器学习
摘要
联邦学习作为一种流行的协作训练范式，易受隐私攻击。需要本地满足关于用户态度的不同隐私级别，同时中央也要求对全局模型提供严格隐私保证。个性化本地差分隐私(PLDP)适用于保护用户各异的本地隐私，但仅提供等同于最坏情况本地隐私级别的中央隐私保证。因此，在获得有实用前景模型的同时实现强中央隐私与个性化本地隐私是一个具有挑战性的问题。本工作中，我们构建了一个通用框架(APES)，通过利用洗牌模型的隐私放大效应，在个性化本地隐私下增强模型隐私。为收紧隐私界，我们逐用户量化对中央隐私的异质贡献。这些贡献由每个用户扰动产生“回声”的能力刻画，并通过所提方法邻居散度与Clip-Laplace机制仔细度量。此外，我们提出带后稀疏化技术的精炼框架(S-APES)，以减少高维场景中的隐私损失。据我们所知，洗牌对个性化本地隐私的影响首次得到考虑。我们提供了强隐私放大效应，且该界比基于现有均匀本地隐私方法的基线结果更紧。实验表明我们的框架确保了全局模型相当或更高的准确率。
引用
@article{arxiv.2304.05516,
title = {Echo of Neighbors: Privacy Amplification for Personalized Private Federated Learning with Shuffle Model},
author = {Yixuan Liu and Suyun Zhao and Li Xiong and Yuhan Liu and Hong Chen},
journal= {arXiv preprint arXiv:2304.05516},
year = {2023}
}