面向联邦学习中的双向防护
分布式、并行与集群计算
2021-06-01 v2 人工智能
密码学与安全
摘要
先前在增强联邦学习(FL)安全性方面的努力可分为两类。在谱系的一端,部分工作使用安全聚合技术隐藏单个客户端的更新,仅向试图从客户端更新中推断其隐私的恶意服务器披露聚合后的全局更新。在谱系的另一端,部分工作使用拜占庭鲁棒FL协议来抑制恶意客户端更新的影响。我们提出一种联邦学习协议F2ED-LEARNING,首次提供双向防御,同时抵御恶意中心化服务器与拜占庭恶意客户端。为防御拜占庭恶意客户端,F2ED-LEARNING通过采用并校准经过充分研究的鲁棒均值估计器FilterL2,提供无维度依赖的估计误差。F2ED-LEARNING还利用安全聚合保护客户端免受恶意服务器攻击。F2ED-LEARNING的一个关键挑战是解决FilterL2与安全聚合方案之间的不兼容性。具体而言,FilterL2必须检查来自客户端的个体更新,而安全聚合向恶意服务器隐藏这些更新。为此,我们提出一种实用且高效的解决方案,将客户端划分为分片(shard),其中F2ED-LEARNING对每个分片的更新进行安全聚合,并对来自不同分片的更新启动FilterL2。评估表明,F2ED-LEARNING持续达到最优或接近最优的性能,并在五种流行攻击下优于五种安全FL协议。
引用
@article{arxiv.2010.01175,
title = {Towards Bidirectional Protection in Federated Learning},
author = {Lun Wang and Qi Pang and Shuai Wang and Dawn Song},
journal= {arXiv preprint arXiv:2010.01175},
year = {2021}
}