联邦学习中的搭便车者：攻击与防御
机器学习
2019-12-02 v1 密码学与安全
机器学习
摘要
联邦学习是最近提出的一种范式，使多个客户端能够协作训练一个联合模型。它允许客户端在本地训练模型，并利用参数服务器通过在每轮聚合本地提交的梯度更新来生成全局模型。尽管联邦学习的激励模型尚未完全建立，但假定参与者能够获得奖励或使用最终全局模型的特权，作为对其付出努力训练模型的补偿。因此，没有任何本地数据的客户端有动机构造本地梯度更新以骗取奖励。在本文中，我们首次提出搭便车者攻击的概念，探索攻击者可能在没有任何本地训练数据的情况下构造梯度更新的方式。此外，我们探索可检测所提出攻击的 possible 防御，并提出一种称为 STD-DAGMM 的新型高维检测方法，该方法特别适用于模型参数的异常检测。我们将攻击和防御扩展到考虑更多搭便车者以及差分隐私，这为该领域的未来研究提供启示并呼吁关注。
引用
@article{arxiv.1911.12560,
title = {Free-riders in Federated Learning: Attacks and Defenses},
author = {Jierui Lin and Min Du and Jian Liu},
journal= {arXiv preprint arXiv:1911.12560},
year = {2019}
}