对抗环境下的联邦学习
密码学与安全
2020-10-16 v1 分布式、并行与集群计算
机器学习
摘要
联邦学习使多个实体能够在将训练数据保留本地的同时协作学习共享预测模型。它避免了数据收集与聚合，从而缓解相关的隐私风险。然而，它仍易遭受各类安全攻击，其中恶意参与者旨在降低所生成模型性能、插入后门或推断其他参与者的训练数据。本文提出一种新的联邦学习方案，在鲁棒性、隐私性、带宽效率与模型精度间提供不同权衡。我们的方案对模型更新使用有偏量化，因而带宽高效。它还能抵御最先进的后门及模型退化攻击，即便在大部分参与节点为恶意时亦然。我们提出该方案的一个实用差分隐私扩展，可保护参与实体的整个数据集。我们表明，即使在严格隐私要求下，该扩展仍与非隐私但鲁棒的方案的效率相当，只是对模型退化与后门攻击的鲁棒性较低。这暗示了差分隐私与鲁棒性之间可能存在根本性权衡。
引用
@article{arxiv.2010.07808,
title = {Federated Learning in Adversarial Settings},
author = {Raouf Kerkouche and Gergely Ács and Claude Castelluccia},
journal= {arXiv preprint arXiv:2010.07808},
year = {2020}
}