具有内在隐私的通信与能量高效无线联邦学习
机器学习
2023-12-12 v2 人工智能
密码学与安全
摘要
联邦学习(FL)是一种协作学习框架,使边缘设备能够在保持原始数据本地化的同时协作学习全局模型。尽管 FL 避免了本地数据集直接信息的泄露,但仍可从共享模型中推断出敏感信息。为解决 FL 中的隐私问题,差分隐私(DP)机制被用于提供形式化的隐私保证。然而,当通过空中计算在无线边缘部署 FL 时,确保客户端级 DP 面临重大挑战。本文中,我们提出了一种称为带稀疏化的私有联邦边缘学习(PFELS)的新型无线 FL 方案,以利用内在信道噪声提供客户端级 DP 保证,同时降低通信与能量开销并提升模型精度。PFELS 的核心思想是每台设备先压缩其模型更新,然后根据无线信道状态自适应设计压缩模型更新的发射功率,而不添加任何人工噪声。我们给出了 PFELS 的隐私分析,并证明了 PFELS 在一般非凸和非 IID 设置下的收敛性。实验结果表明,与已有工作相比,PFELS 能在相同 DP 保证下提高精度,并同时节省通信与能量成本。
引用
@article{arxiv.2304.07460,
title = {Communication and Energy Efficient Wireless Federated Learning with Intrinsic Privacy},
author = {Zhenxiao Zhang and Yuanxiong Guo and Yuguang Fang and Yanmin Gong},
journal= {arXiv preprint arXiv:2304.07460},
year = {2023}
}
备注
19 pages, Accepted for publication in IEEE Transactions on Dependable and Secure Computing