FL-Market：联邦学习中的私有模型交易
机器学习
2023-04-04 v4 数据库
摘要
获取足量训练数据的困难是基于机器学习（ML）的数据分析的主要瓶颈。近来，将 ML 模型商品化被提出作为一种经济且适度的面向 ML 的数据获取方案。然而，现有模型市场假设经纪商可访问数据拥有者的私有训练数据，这在实际中未必现实。本文为促进 ML 任务的可信数据获取，提出 FL-Market，一个本地私有模型市场，其不仅防范模型购买者，也防范不可信经纪商以保护隐私。FL-Market 利用联邦学习（一种新兴的隐私保护 ML 范式，数据拥有者通过上传本地梯度以协作训练 ML 模型并聚合成全局梯度用于模型更新）将 ML 与在经纪商侧集中收集训练数据的需求解耦。随后，FL-Market 使数据拥有者通过本地差分隐私在本地扰动其梯度，从而进一步防范隐私风险。为驱动 FL-Market，我们提出一种深度学习赋能的拍卖机制以智能决定本地梯度的扰动水平，以及一种最优聚合机制以聚合被扰动的梯度。我们的拍卖与聚合机制可联合最大化全局梯度的精度，从而优化模型购买者的效用。实验验证了所提机制的有效性。
引用
@article{arxiv.2106.04384,
title = {FL-Market: Trading Private Models in Federated Learning},
author = {Shuyuan Zheng and Yang Cao and Masatoshi Yoshikawa and Huizhong Li and Qiang Yan},
journal= {arXiv preprint arXiv:2106.04384},
year = {2023}
}
备注
Extended report for our IEEE BigData 2022 paper