基于进化策略的通信高效且隐私保护的联邦学习
机器学习
2023-11-10 v2 人工智能
摘要
联邦学习（FL）是一种以分布式方式训练深度神经网络（DNNs）的新兴范式。当前的 FL 方法均存在通信开销高和信息泄露的问题。在本文中，我们提出一种基于进化策略的联邦学习算法（FedES），一种零阶训练方法。FedES 不传输模型参数，而仅通信损失值，因此具有极低的通信开销。此外，第三方在不知晓预共享种子的情况下无法估计梯度，从而保护数据隐私。实验结果表明，FedES 能在保持与反向传播方法相同收敛性能的同时实现上述益处。
引用
@article{arxiv.2311.03405,
title = {Communication Efficient and Privacy-Preserving Federated Learning Based on Evolution Strategies},
author = {Guangchen Lan},
journal= {arXiv preprint arXiv:2311.03405},
year = {2023}
}
备注
Course Project of CS59200: Distributed Optimization for Machine Learning. Lecturer: Prof. B. Bullins