基于模型分割与 Top $r$ 稀疏化的存储高效隐私联邦学习
信息论
2022-12-23 v1 密码学与安全
网络与互联网体系结构
信号处理
math.IT
摘要
在采用 top 稀疏化的联邦学习(FL)中,数百万用户利用个人数据在本地协同训练机器学习(ML)模型,仅通信最显著的 比例更新以降低通信开销。已有研究表明,这些被选中(稀疏)更新的值与索引会泄露用户个人数据的信息。本文研究在采用 top 稀疏化的 FL 中,如何高效地执行用户-数据库通信,同时保证用户个人数据的信息论隐私。这些方法带来可观的存储开销。作为解决方案,我们提出两种具有不同性质的方案,其结合 MDS 编码存储与模型分割机制,以可控量的信息泄露为代价降低存储开销,从而实现带 top 稀疏化的隐私 FL。
引用
@article{arxiv.2212.11947,
title = {Model Segmentation for Storage Efficient Private Federated Learning with Top $r$ Sparsification},
author = {Sajani Vithana and Sennur Ulukus},
journal= {arXiv preprint arXiv:2212.11947},
year = {2022}
}
备注
arXiv admin note: text overlap with arXiv:2212.09704