一种用于增强隐私与安全的联邦学习新实现
密码学与安全
2022-08-04 v1 机器学习
摘要
受日益增长的对个人数据隐私的担忧以及本地客户端数据量的快速增加所推动,联邦学习(FL)已成为一种新的机器学习范式。一个 FL 系统由中央参数服务器和多个本地客户端组成。它将数据保留在本地客户端,并通过共享本地学习的模型参数来学习集中式模型。无需共享本地数据,隐私可得到良好保护。然而,由于共享的是模型而非原始数据,系统可能遭受恶意客户端发起的投毒模型攻击。此外,由于服务器上无法获取任何本地客户端数据,识别恶意客户端具有挑战性。另外,成员推断攻击仍可利用上传的模型估计客户端本地数据,导致隐私泄露。本工作中,我们首先提出一种基于模型更新的联邦平均算法,以防御加法噪声攻击和符号翻转攻击等拜占庭攻击。提出个体客户端模型初始化方法,通过隐藏个体本地机器学习模型,为抵御成员推断攻击提供进一步隐私保护。将这两种方案结合,隐私与安全均可被有效增强。所提方案在无攻击的非独立同分布(non-IID)数据下被实验证明收敛。在拜占庭攻击下,所提方案表现远优于经典的基于模型的 FedAvg 算法。
引用
@article{arxiv.2208.01826,
title = {A New Implementation of Federated Learning for Privacy and Security Enhancement},
author = {Xiang Ma and Haijian Sun and Rose Qingyang Hu and Yi Qian},
journal= {arXiv preprint arXiv:2208.01826},
year = {2022}
}