面向拜占庭鲁棒客户端加权的联邦学习
机器学习
2021-05-19 v2 密码学与安全
机器学习
摘要
联邦学习 (FL) 是一种分布式机器学习范式，其中数据分布在客户端之间，客户端在中心服务器协调的计算过程中协作训练模型。通过基于每个客户端拥有的数据实例比例为每个客户端分配权重，可大幅加速收敛到准确联合模型的速率。一些先前工作在拜占庭设置下研究 FL，其中一部分客户端可能发送关于其模型的任意甚至恶意信息。然而，这些工作要么完全忽略数据不平衡问题，要么假设客户端权重为服务器先验已知，而在实践中，权重很可能由客户端自身报告给服务器，因此不可信赖。我们首次通过提出一种实用的基于权重截断的预处理方法来解决此问题，并从经验上证明该方法能够在模型质量与拜占庭鲁棒性之间取得良好平衡。我们还从分析上证明，我们的方法可应用于随机选取的客户端权重样本。
引用
@article{arxiv.2004.04986,
title = {Towards Federated Learning With Byzantine-Robust Client Weighting},
author = {Amit Portnoy and Yoav Tirosh and Danny Hendler},
journal= {arXiv preprint arXiv:2004.04986},
year = {2021}
}