通过数据生成与参数失真实现隐私保护联邦学习的近最优效用
机器学习
2024-03-08 v3 人工智能
密码学与安全
摘要
联邦学习（FL）使参与方能够在不披露私有数据信息的情况下协作构建具有提升效用的全局模型。必须采用适当的保护机制以满足保护隐私与维持高模型效用的要求。被广泛采用的保护机制（包括随机化机制与压缩机制）的本质是通过扭曲模型参数来保护隐私。我们通过原始模型参数与失真模型参数之间的差距来衡量效用。我们希望确定在何种一般条件下，隐私保护联邦学习可通过数据生成与参数失真实现近最优效用。为提供实现近最优效用的途径，我们给出了效用损失的上界，该上界由分别称为方差缩减与模型参数差异的两项主要项来衡量。我们的分析启发了为保护机制设计适当的保护参数，以同时实现近最优效用并满足隐私要求。该保护机制的主要技术包括参数失真与数据生成，它们是通用的且可广泛应用。此外，我们给出了隐私与效用之间权衡的上界，该上界与联邦学习中无免费午餐定理（\cite{zhang2022no}）给出的下界共同构成了实现最优权衡的条件。
引用
@article{arxiv.2305.04288,
title = {Towards Achieving Near-optimal Utility for Privacy-Preserving Federated Learning via Data Generation and Parameter Distortion},
author = {Xiaojin Zhang and Kai Chen and Qiang Yang},
journal= {arXiv preprint arXiv:2305.04288},
year = {2024}
}