MUD-PQFed：面向隐私保护量化联邦学习中的恶意用户检测
密码学与安全
2022-07-20 v1
摘要
联邦学习（FL）作为一种分布式机器学习范式，已被采用以缓解客户的隐私担忧。尽管其具有吸引力，仍存在各种推理攻击可利用共享明文模型更新来嵌入客户私有信息的痕迹，导致严重的隐私问题。为缓解此隐私问题，安全多方计算和同态加密等密码学技术已被用于隐私保护FL。然而，隐私保护FL中的此类安全问题鲜有阐明且未被充分探索。本工作是首次尝试阐明基于轻量级秘密共享的隐私保护FL上执行模型腐蚀攻击的轻易性。我们考虑模型更新被量化以减少通信开销的情形，其中 adversary 可简单地提供合法范围之外的本地参数以腐蚀模型。随后我们提出MUD-PQFed协议，可精确检测执行攻击的恶意客户端并实施公平惩罚。通过移除被检测恶意客户端的贡献，全局模型效用得以保持，可与无攻击的基线全局模型相媲美。大量实验验证了在维持基线准确率和细粒度检测恶意客户端方面的有效性。
引用
@article{arxiv.2207.09080,
title = {MUD-PQFed: Towards Malicious User Detection in Privacy-Preserving Quantized Federated Learning},
author = {Hua Ma and Qun Li and Yifeng Zheng and Zhi Zhang and Xiaoning Liu and Yansong Gao and Said F. Al-Sarawi and Derek Abbott},
journal= {arXiv preprint arXiv:2207.09080},
year = {2022}
}
备注
13 pages,13 figures