VAFL:一种垂直异步联邦学习方法
机器学习
2021-02-02 v1 分布式、并行与集群计算
最优化与控制
机器学习
摘要
横向联邦学习(FL)处理共享相同特征集的多客户端数据,而纵向 FL 则训练一个结合来自不同客户端所有特征的更好预测器。本文旨在以异步方式解决纵向 FL 问题,并开发了一种简单的 FL 方法。新方法允许每个客户端在不与其他客户端协调的情况下运行随机梯度算法,因此适用于客户端的间歇性连接。该方法进一步采用了一种新的扰动局部嵌入技术,以确保数据隐私并提高通信效率。在理论上,我们分别针对强凸、非凸甚至非光滑目标,给出了该方法的收敛速率和隐私级别。在实验中,我们将该方法应用于各种图像和医疗数据集上的 FL。其结果优于集中式和同步 FL 方法。
引用
@article{arxiv.2007.06081,
title = {VAFL: a Method of Vertical Asynchronous Federated Learning},
author = {Tianyi Chen and Xiao Jin and Yuejiao Sun and Wotao Yin},
journal= {arXiv preprint arXiv:2007.06081},
year = {2021}
}
备注
FL-ICML'20: Proc. of ICML Workshop on Federated Learning for User Privacy and Data Confidentiality, July 2020