联邦学习中的权力分立
密码学与安全
2021-05-21 v1 机器学习
摘要
联邦学习（FL）使互不信任的各方能够进行协作训练。模型更新而非训练数据被集中并在中心聚合服务器中融合。FL 中的一个关键安全挑战是，不可信或被攻破的聚合过程可能导致不可预见的信息泄露。由于近期被证明的攻击可从表面“净化”过的模型更新中重建大部分训练数据，这一挑战尤为严峻。本文中，我们引入 TRUDA，一种新型跨孤岛 FL 系统，采用可信且去中心化的聚合架构，以打破针对单一聚合器的信息集中。基于模型融合算法的独特计算特性，TRUDA 中所有交换的模型更新在参数粒度上被拆解，并重新拼接到指定给多个 TEE 保护聚合器的随机分区中。因此，每个聚合器仅拥有碎片化且被打乱的模型更新视图，并对模型结构一无所知。我们的新安全机制能从根本缓解训练重建攻击，同时保留训练模型的最终精度并保持较低的性能开销。
引用
@article{arxiv.2105.09400,
title = {Separation of Powers in Federated Learning},
author = {Pau-Chen Cheng and Kevin Eykholt and Zhongshu Gu and Hani Jamjoom and K. R. Jayaram and Enriquillo Valdez and Ashish Verma},
journal= {arXiv preprint arXiv:2105.09400},
year = {2021}
}