Dap-FL：通过自适应调参与安全聚合实现联邦学习的提升
密码学与安全
2022-06-09 v1
摘要
联邦学习（FL）作为一种有吸引力且前景广阔的分布式机器学习范式，已引发广泛关注，以利用 ubiquitous 移动设备上存储的海量数据。然而，传统 FL 严重受困于资源异构性，因为计算与通信能力较弱的客户端可能无法使用相同的本地训练超参数完成本地训练。本文提出 Dap-FL，一种深度确定性策略梯度（DDPG）辅助的自适应 FL 系统，其中本地学习率与本地训练轮次由所有资源异构客户端通过本地部署的 DDPG 辅助自适应超参数选择方案进行自适应调整。特别地，所提超参数选择方案的合理性通过严格的数学证明得以确认。此外，鉴于以往研究对自适应 FL 系统安全性考量的欠缺，我们引入 Paillier 密码系统以安全且保护隐私的方式聚合本地模型。严格分析表明，所提 Dap-FL 系统能在广泛使用的诚实但好奇参与方与主动敌手安全模型下，保障客户端私有本地模型抵御选择明文攻击与选择消息攻击的安全性。另外，通过巧妙而广泛的实验，所提 Dap-FL 相比传统 FL 取得了更高的全局模型预测精度与更快的收敛速度，且经调整的本地训练超参数的完备性得到验证。更重要的是，实验结果还表明所提 Dap-FL 比两种最先进的 RL 辅助 FL 方法具有更高的模型预测精度，即比基于 DDPG 的 FL 高 6.03%，比基于 DQN 的 FL 高 7.85%。
引用
@article{arxiv.2206.03623,
title = {Dap-FL: Federated Learning flourishes by adaptive tuning and secure aggregation},
author = {Qian Chen and Zilong Wang and Jiawei Chen and Haonan Yan and Xiaodong Lin},
journal= {arXiv preprint arXiv:2206.03623},
year = {2022}
}