拜占庭弹性安全联邦学习
密码学与安全
2021-02-23 v2 分布式、并行与集群计算
机器学习
机器学习
摘要
安全联邦学习是一种隐私保护框架，通过在移动用户收集的大量数据上训练来改进机器学习模型。这通过一个迭代过程实现：在每次迭代中，用户使用其本地数据集更新全局模型。然后每个用户通过随机密钥对其本地模型进行掩码，掩码后的模型在中心服务器上聚合以计算下一次迭代的全局模型。由于本地模型受随机掩码保护，服务器无法观测其真实值。这对该模型抵御对抗性（拜占庭）用户的弹性提出了重大挑战，后者可通过修改其本地模型或数据集来操纵全局模型。为应对此挑战，本文提出了首个用于安全联邦学习的单服务器拜占庭弹性安全聚合框架（BREA）。BREA 基于集成的随机量化、可验证离群值检测与安全模型聚合方法，以同时保证拜占庭弹性、隐私性与收敛性。我们提供了理论收敛与隐私保证，并刻画了在网络规模、用户掉线与隐私保护方面的基本权衡。我们的实验证明了在存在拜占庭用户时的收敛性，以及与常规联邦学习基准相当的准确性。
引用
@article{arxiv.2007.11115,
title = {Byzantine-Resilient Secure Federated Learning},
author = {Jinhyun So and Basak Guler and A. Salman Avestimehr},
journal= {arXiv preprint arXiv:2007.11115},
year = {2021}
}