DReS-FL：基于秘密数据共享的面向非独立同分布客户端的抗掉线安全联邦学习
机器学习
2022-10-07 v1 密码学与安全
摘要
联邦学习（FL）致力于实现机器学习模型的协同训练，而无需集中收集客户的私有数据。与集中式训练不同，FL 中跨客户的本地数据集是非独立同分布（non-IID）的。此外，拥有数据的客户可能任意退出训练过程。这些特性会显著降低训练性能。本文提出一种基于拉格朗日编码计算（LCC）的掉线弹性安全联邦学习（DReS-FL）框架，以解决 non-IID 和掉线两个问题。其核心思想是利用拉格朗日编码在客户间秘密共享私有数据集，使每个客户接收到全局数据集的编码版本，且在该数据集上的本地梯度计算是无偏的。为了在服务器端正确解码梯度，梯度函数必须是有限域上的多项式，因此我们构建了多项式整数神经网络（PINNs）以实现我们的框架。理论分析表明，DReS-FL 对客户掉线具有弹性，并为本地数据集提供隐私保护。此外，我们通过实验证明，DReS-FL 相比基线方法持续带来显著的性能提升。
引用
@article{arxiv.2210.02680,
title = {DReS-FL: Dropout-Resilient Secure Federated Learning for Non-IID Clients via Secret Data Sharing},
author = {Jiawei Shao and Yuchang Sun and Songze Li and Jun Zhang},
journal= {arXiv preprint arXiv:2210.02680},
year = {2022}
}
备注
This paper was accepted to NeurIPS 2022