单次通信联邦回归中的精确支撑恢复
机器学习
2020-06-24 v1 机器学习
摘要
联邦学习提供了一种框架，以应对大量具有低计算与通信能力的分布式客户端所带来的分布式计算、数据所有权与隐私挑战。在本文中，我们研究联邦学习设定下学习稀疏线性回归精确支撑的问题。我们提供一种简单的通信高效算法，其仅需与中心服务器进行单次通信即可计算精确支撑。我们的方法不要求客户端求解任何优化问题，因而可在具有低计算能力的设备上运行。我们的方法天然地对客户端失效、模型投毒与掉队客户端问题具有鲁棒性。我们形式化证明，我们的方法所需的每客户端样本数为关于支撑大小的多项式，但与问题维度无关。我们要求分布式客户端数量为问题维度的对数级。若预测变量相互独立，则总体样本复杂度匹配非联邦集中式设定的最优样本复杂度。此外，我们的方法易于实现且具有总体多项式时间复杂度。
引用
@article{arxiv.2006.12583,
title = {Exact Support Recovery in Federated Regression with One-shot Communication},
author = {Adarsh Barik and Jean Honorio},
journal= {arXiv preprint arXiv:2006.12583},
year = {2020}
}